كشفت دراسة جديدة أن الذكاء الاصطناعي يقدم بيانات صحية غير دقيقة عند طلب معلومات حول مرض السرطان.
روبوت الدردشة ChatGPT والمشورة الصحية
حيث أجاب روبوت الدردشة ChatGPT على واحد من كل عشرة أسئلة حول فحص سرطان الثدي بشكل خاطئ ولم تكن الإجابات الصحيحة "شاملة" مثل تلك التي تم العثور عليها من خلال بحث غوغل البسيط.
وقال الباحثون إن روبوت الدردشة المزود بالذكاء الاصطناعي استخدم في بعض الحالات مقالات صحفية مزيفة لدعم مزاعمه.
اختبار روبوت الدردشة ChatGPT في المشورة الطبية
طلب باحثون من كلية الطب بجامعة ميريلاند من ChatGPT الإجابة عن 25 سؤالا متعلقا بالنصائح حول الكشف عن سرطان الثدي.
وطرح كل سؤال ثلاث مرات منفصلة. ثم تم تحليل النتائج من قبل ثلاثة أطباء أشعة مدربين على التصوير الشعاعي للثدي.
نتيجة الاختبار
وكانت "الغالبية العظمى" - 88% - من الإجابات مناسبة وسهلة الفهم. لكنهم حذروا من أن بعض الإجابات كانت "غير دقيقة أو حتى وهمية". إجابة واحدة على سبيل المثال كانت تستند إلى معلومات قديمة. ونصح بتأجيل تصوير الثدي بالأشعة السينية لمدة أربعة إلى ستة أسابيع بعد الحصول على لقاح "كوفيد"، ولكن تم تغيير هذه النصيحة منذ أكثر من عام لتوصي النساء بعدم الانتظار.
المشورة الطبية الخاصة بسرطان الثدي من روبوت الدردشة ChatGPT
وقدم ChatGPT أيضا ردودا غير متسقة على الأسئلة المتعلقة بخطر الإصابة بسرطان الثدي ومكان الحصول على صورة الثدي الشعاعية. ووجدت الدراسة أن الإجابات "متنوعة بشكل كبير" في كل مرة طُرح فيها نفس السؤال.
ووجدت النتائج - التي نُشرت في مجلة Radiology - أن بحثا بسيطا على غوغل لا يزال يوفر إجابة أكثر شمولا.
نقطة ضعف لدى روبوت الدردشة ChatGPT
اعتمد ChatGPT على مجموعة واحدة فقط من التوصيات الصادرة عن منظمة واحدة، والتي أصدرتها جمعية السرطان الأمريكية، ولم تقدم توصيات مختلفة صادرة عن مجموعة مكافحة الأمراض والوقاية منها أو فرقة العمل المعنية بالخدمات الوقائية الأمريكية.
دمج روبوت الدردشة ChatGPT في محركات البحث
وأدى إطلاق ChatGPT في أواخر العام الماضي إلى موجة من الطلب على التكنولوجيا، حيث يستخدم ملايين المستخدمين الآن الأدوات كل يوم، من كتابة المقالات المدرسية إلى البحث عن النصائح الصحية.
واستثمرت مايكروسوفت بكثافة في البرنامج وراء ChatGPT وتقوم بدمجه في محرك بحث Bing وOffice 365، بما في ذلك Word وPowerPoint وExcel.
هلوسة روبوت الدردشة ChatGPT
ويطلق خبراء الذكاء الاصطناعي على هذه الظاهرة اسم "الهلوسة"، حيث يستجيب روبوت الدردشة الذي لا يجد الإجابة التي يتم تدريبه عليها بثقة بإجابة مختلقة يراها معقولة.
ثم يستمر في الإصرار مرارا وتكرارا على الإجابة الخاطئة دون أي وعي داخلي بأنه نتاج خيالها.
تحذير من مخاطر الذكاء الاصطناعي
ودعا أكثر من ألف أكاديمي وخبير ورئيس في صناعة التكنولوجيا مؤخرا إلى الوقف الطارئ لـ"السباق" "الخطير" لإطلاق أحدث تقنيات الذكاء الاصطناعي.
وحذروا من أن المعركة بين شركات التكنولوجيا لتطوير عقول رقمية أكثر قوة ستكون "خارجة عن السيطرة" وتشكل "مخاطر عميقة على المجتمع والإنسانية".
