كشف تحقيق لصحيفة الجارديان عن أن ملخصات جوجل المدعومة بالذكاء الاصطناعي قد تعرض الأشخاص لمخاطر بسبب تقديم معلومات صحية خاطئة، رغم أن الشركة تصف هذه الملخصات بأنها “مفيدة” و”موثوقة”. لكن بعض هذه الملخصات، التي تظهر في أعلى نتائج البحث، قدمت معلومات غير دقيقة، وفي حالة وصفت بأنها “خطيرة للغاية”، نصحت جوجل مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون، وهو ما يتعارض مع التوصيات الصحيحة، مما قد يزيد من خطر الوفاة. وفي مثال آخر، قدمت معلومات مضللة حول اختبارات وظائف الكبد، مما قد يجعل المرضى يعتقدون أنهم أصحاء في حين أنهم ليسوا كذلك.
عند البحث عن فحوصات سرطان النساء، ظهرت معلومات “خاطئة تمامًا”، مما قد يدفع الناس لتجاهل أعراض حقيقية، وقد صرح متحدث باسم جوجل بأن العديد من الأمثلة التي تم مشاركتها كانت “لقطات شاشة غير مكتملة”، لكن وفقًا لتقييمهم، تشير إلى “مصادر معروفة وموثوقة” مع توصية بطلب المشورة من الخبراء.
تأتي هذه المخاوف في وقت يشهد فيه العالم قلقًا متزايدًا من أن بيانات الذكاء الاصطناعي قد تُضلل المستخدمين الذين قد يعتقدون أنها موثوقة، ففي دراسة سابقة، وُجد أن روبوتات الدردشة التي تعمل بالذكاء الاصطناعي قدمت نصائح مالية غير دقيقة، مما أثار مخاوف مشابهة حول ملخصات الأخبار. صرحت صوفي راندال، مديرة منتدى معلومات المرضى، بأن هذه الأمثلة تُظهر أن ملخصات جوجل قد تضع معلومات غير دقيقة في أعلى نتائج البحث، مما يُشكل خطرًا على صحة الناس.
أضافت ستيفاني باركر، مديرة قسم التسويق الرقمي في مؤسسة ماري كوري، أن الناس يلجأون إلى الإنترنت في أوقات القلق، وإذا كانت المعلومات التي يحصلون عليها غير دقيقة، فقد تؤثر سلبًا على صحتهم. صحيفة الجارديان كشفت عن حالات متعددة لمعلومات صحية خاطئة في ملخصات جوجل، بعد أن أعربت مجموعات صحية عن مخاوفها.
قالت آنا جويل، مديرة مؤسسة سرطان البنكرياس في المملكة المتحدة، إن نصح المرضى بتجنب الأطعمة الغنية بالدهون “أمر خاطئ تمامًا”، وقد يؤدي ذلك إلى تقليل فرصهم في التعافي. وأوضحت أن اتباع مثل هذه النصائح قد يجعل المرضى يواجهون صعوبة في زيادة وزنهم، مما يؤثر على قدرتهم على تحمل العلاجات الضرورية.
عند البحث عن “ما هو المعدل الطبيعي لنتائج تحاليل الدم الخاصة بالكبد؟”، قدمت الملخصات معلومات مضللة دون مراعاة عوامل مثل الجنس أو العرق أو العمر، وباميلا هيلي، الرئيسة التنفيذية لمؤسسة الكبد البريطانية، أشارت إلى أن هذه الملخصات قد تجعل المرضى يعتقدون أن نتائجهم طبيعية، مما قد يؤدي لعدم حضورهم لمواعيد متابعة الرعاية الصحية.
كما أظهرت حالات أخرى معلومات خاطئة عن الفحوصات المتعلقة بسرطان المهبل، حيث ذكرت أثينا لامنيسوس، الرئيسة التنفيذية لمؤسسة “إيف أبيل”، أن فحص مسحة عنق الرحم ليس للكشف عن سرطان المهبل، وهذا قد يؤدي إلى تجاهل النساء لفحوصات ضرورية. وتابعت بأن نتائج الملخصات تختلف بحسب وقت البحث، مما يجعل المستخدمين يحصلون على إجابات غير متسقة.
ستيفن باكلي، رئيس قسم المعلومات في مؤسسة “مايند”، عبر عن قلقه من أن بعض الملخصات تقدم نصائح خطيرة وغير صحيحة، مما قد يؤدي إلى تجنب الأشخاص طلب المساعدة. وأكد أن هذه الملخصات قد تعكس تحيزات موجودة مسبقًا.
جوجل أكدت أن غالبية ملخصات الذكاء الاصطناعي دقيقة ومفيدة، وأنهم يعملون على تحسين جودتها باستمرار، مشيرين إلى أن دقتها تضاهي ميزات البحث الأخرى. المتحدث باسم الشركة ذكر أنهم يستثمرون بشكل كبير في جودة هذه الملخصات، خاصة في مجالات الصحة، وأنهم سيتخذون الإجراءات اللازمة في حال وجود سوء تفسير للمحتوى.