كشفت صحيفة “الغارديان” عن قرار شركة غوغل بإزالة بعض ملخصات الذكاء الاصطناعي المتعلقة بالصحة، وذلك بعد أن تبين أنها قد تعرض المستخدمين لمعلومات غير دقيقة ومضللة، مما قد يسبب أضرارًا جسيمة. الملخصات التي تعتمد على الذكاء الاصطناعي تهدف إلى تقديم لمحات سريعة حول مواضيع معينة، وتظهر عادة في أعلى نتائج البحث، ورغم تأكيد غوغل على أنها موثوقة، إلا أن التحقيقات أظهرت أنها قد تحتوي على معلومات صحية خاطئة، مثل تلك المتعلقة بفحوصات وظائف الكبد.
في حالة وصفها خبراء الصحة بـ”الخطيرة”، عرضت غوغل أرقامًا غير صحيحة حول فحوصات الكبد، مما قد يجعل المرضى الذين يعانون من حالات خطيرة يعتقدون أنهم بصحة جيدة، وبالتالي يتجاهلون مواعيد طبية مهمة. كما أظهرت نتائج البحث عن “ما هو النطاق الطبيعي لفحوصات الدم للكبد” أعدادًا كثيرة بدون أي سياق، مما أدى إلى تباين كبير بين ما هو “طبيعي” في الملخصات والمعايير الطبية الفعلية.
بعد هذه النتائج، قررت غوغل إزالة الملخصات المتعلقة بفحوصات الكبد، وأوضح متحدث باسم الشركة أنهم يعملون على تحسينات واسعة لضمان عدم فقدان الملخصات للسياق، وأنهم يتخذون الإجراءات اللازمة وفقًا لسياساتهم.
من جانبها، علقت فانيسا هيبدتش، مديرة التواصل والسياسات في مؤسسة الكبد البريطانية، على القرار بأنه “إيجابي”، لكنه لا يحل المشكلة الأكبر المتعلقة بالملخصات الصحية التي قد تُضلل المستخدمين عند صياغة الأسئلة بشكل مختلف. كما أكدت سو فارينغتون، رئيسة منتدى معلومات المرضى، أن هذه الخطوة تمثل “البداية فقط” للحفاظ على الثقة في نتائج البحث الصحية من غوغل، مشيرة إلى أن الملايين حول العالم يجدون صعوبة في الحصول على معلومات صحية موثوقة.
لا تزال الملخصات الذكاء الاصطناعي تظهر في مواضيع صحية أخرى، مثل السرطان والصحة النفسية، والتي وصفها الخبراء بأنها “خاطئة تمامًا” و”خطيرة جدًا”. غوغل أكدت أن هذه الملخصات ترتبط بمصادر موثوقة، وأنها توجه المستخدمين لاستشارة الخبراء عند الحاجة، وأشارت إلى أنها تراجع جودة الملخصات بشكل مستمر عبر جميع الفئات.