حذر مختصون من أن بعض النصائح الصحية التي يقدمها ذكاء غوغل الاصطناعي قد تؤدي أحيانًا إلى مخاطر كبيرة على صحة المرضى، وذكروا حالة مثيرة للقلق حيث أوصى غوغل مرضى سرطان البنكرياس بتجنب الأطعمة عالية الدهون، وهو ما يتعارض مع ما يجب أن يُنصح به، مما قد يزيد من خطر الوفاة لدى هؤلاء المرضى.
في حالة أخرى، قدمت غوغل معلومات خاطئة حول اختبارات وظائف الكبد، مما قد يجعل المصابين بأمراض كبدية خطيرة يعتقدون أنهم في صحة جيدة، وهذا ما أثار قلق الخبراء، حيث أظهرت عمليات البحث المتعلقة بفحوصات سرطانات النساء معلومات غير صحيحة تمامًا، مما قد يدفع بعض الأشخاص لتجاهل الأعراض الحقيقية للمرض.
هذا التحقيق يأتي في وقت تتزايد فيه المخاوف من أن المعلومات التي يقدمها الذكاء الاصطناعي قد تضلل المستخدمين، فدراسة سابقة أظهرت أن روبوتات الدردشة بالذكاء الاصطناعي قدمت نصائح مالية غير دقيقة، مما أثار مخاوف مشابهة بشأن تلخيص الأخبار.
ستيفاني باركر، المديرة الرقمية لمؤسسة «ماري كوري» الخيرية في بريطانيا، أشارت إلى أن الناس يلجؤون إلى الإنترنت في لحظات القلق والأزمات، وإذا كانت المعلومات التي يحصلون عليها غير صحيحة، فقد تلحق أضرارًا جسيمة بصحتهم، وقد رصدت الغارديان حالات متعددة من المعلومات الصحية الخاطئة في ملخصات الذكاء الاصطناعي لغوغل.
باميلا هيلي، المديرة التنفيذية لمؤسسة صحية متخصصة في أمراض الكبد، وصفت هذه الملخصات بالمقلقة، وأوضحت أن الكثير من المصابين بأمراض الكبد لا تظهر عليهم أعراض حتى مراحل متقدمة، لذا فإن الفحوصات تعتبر بالغة الأهمية، لكن المعلومات التي يقدمها غوغل قد تختلف بشكل كبير عن المعايير الحقيقية، وهذا قد يجعل بعض المرضى يعتقدون أن نتائجهم طبيعية، مما يدفعهم لعدم مراجعة الأطباء لمتابعة العلاج.
في بحث حول «أعراض وفحوصات سرطان المهبل»، تم تعريف اختبار «باب سمير» بشكل خاطئ كفحص لسرطان المهبل، بينما هو مخصص لفحص صحة عنق الرحم، وأثينا لامنيـسوس، المديرة التنفيذية لمؤسسة «إيف أبيل» الخيرية المعنية بالسرطان، أكدت أن هذه المعلومات غير صحيحة تمامًا، وأشارت إلى أن الملخصات تتغير في كل مرة يُجرى فيها البحث، مما يعني أن الناس يحصلون على إجابات مختلفة بحسب توقيت البحث، وهو أمر غير مقبول.
لامنيـسوس أكدت أن بعض النتائج مقلقة للغاية وقد تعرض النساء للخطر، والغارديان وجدت أيضًا أن ملخصات الذكاء الاصطناعي لغوغل قدمت معلومات مضللة في عمليات البحث المتعلقة بالصحة النفسية، حيث قال ستيفن باكلي، رئيس قسم المعلومات في مؤسسة «مايند» الخيرية، إن هذا يشكل مصدر قلق كبير، وأشار إلى أن بعض الملخصات المتعلقة باضطرابات مثل الذهان واضطرابات الأكل قدمت نصائح خطيرة وغير دقيقة.
من جهة أخرى، أكدت غوغل أن الغالبية العظمى من البيانات التي تقدمها دقيقة ومفيدة، وأن الشركة تعمل على تحسين الجودة باستمرار، وأوضحت أنها ستتخذ الإجراءات اللازمة وفق سياساتها كلما أساءت الملخصات تفسير محتوى الويب.