أوقفت جوجل عرض “الملخصات بالذكاء الاصطناعي” لبعض الاستفسارات الطبية الحساسة بعد ما كشف تحقيق صحفي عن تقديم معلومات مضللة وخطرة صحياً ضمن نتائج البحث، القرار جاء بعد تقرير نشرته صحيفة الغارديان الشهر الحالي، والذي أظهر أن النظام قدم إرشادات خاطئة لمرضى سرطان البنكرياس وأخطاء تتعلق بوظائف الكبد.
في مطلع الشهر، نشرت صحيفة الغارديان تحقيقاً موسعاً عن أداء ميزة الملخصات بالذكاء الاصطناعي في محرك بحث جوجل عند التعامل مع الأسئلة الطبية، التحقيق أظهر أن المستخدمين حصلوا في بعض الحالات على معلومات غير دقيقة، بل مخالفة للإرشادات الطبية المعتمدة، وهذا أثار قلق الخبراء بشأن سلامة الاعتماد على هذه الملخصات في القضايا الصحية الحساسة.
أبرز ما كشفه التحقيق كان حالة وصفها خبراء بأنها “شديدة الخطورة”، حيث أوصى ملخص الذكاء الاصطناعي من جوجل مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون، اختصاصيون طبيون أكدوا أن هذه النصيحة تعاكس تماماً ما توصي به البروتوكولات العلاجية، محذرين من أن اتباعها قد يزيد مخاطر تدهور الحالة الصحية وارتفاع احتمال الوفاة لدى المصابين بالمرض.
التقرير أشار أيضاً إلى مثال آخر وصف بأنه “مثير للقلق”، حيث قدم النظام معلومات غير صحيحة عن مؤشرات ووظائف الكبد الحيوية، الخبراء رأوا أن نشر هذه البيانات الخاطئة ضمن نتائج البحث الأولى قد يضلل المرضى ومقدمي الرعاية الصحية غير المتخصصين، مما يؤدي إلى اتخاذ قرارات صحية مبنية على معلومات مغلوطة.
بعد نشر التحقيق واستمرار الجدل حول دقة مخرجات الذكاء الاصطناعي في المجال الطبي، لوحظ أن جوجل أزالت الملخصات بالذكاء الاصطناعي من نتائج البحث المتعلقة بهذه الأمثلة وغيرها من الاستفسارات الطبية المشابهة، ولم يُعرف بعد ما إذا كان هذا الإجراء دائماً أم مؤقتاً ريثما تُدخل تحسينات إضافية على نماذج الذكاء الاصطناعي وآليات التحقق من المعلومات.
الحادثة سلطت الضوء مجدداً على التحديات المرتبطة باستخدام نماذج الذكاء الاصطناعي في المجالات الحساسة مثل الصحة والطب، إذ يمكن أن يكون لخطأ واحد أو توصية غير دقيقة تبعات مباشرة على سلامة المرضى، ويؤكد مختصون في التقنية والطب ضرورة وجود ضوابط صارمة لمراجعة المحتوى الطبي الذي تنتجه أنظمة الذكاء الاصطناعي، وعدم التعامل معها كبديل للاستشارة الطبية المتخصصة.
تناول موقع “ذا فيرج” القصة الكاملة وتابع تداعيات التحقيق وتفاعل جوجل مع الانتقادات، في وقت تواصل فيه شركات التكنولوجيا الكبرى دفع منتجات الذكاء الاصطناعي إلى واجهة خدمات البحث والمعلومات عالمياً.