في خطوة احترازية، قررت غوغل حذف بعض الملخصات المتعلقة بالصحة التي يتم إنتاجها بواسطة الذكاء الاصطناعي من نتائج البحث، وهذا جاء بعد القلق من أن هذه المعلومات قد تكون غير دقيقة وتؤثر على قرارات المستخدمين الصحية، وغوغل أكدت أن ميزة “AI Overviews” التي تستخدم الذكاء الاصطناعي لتقديم معلومات سريعة تعتبر مفيدة وموثوقة.
لكن، تحقيقًا أظهر أن بعض هذه الملخصات التي تظهر في أعلى نتائج البحث تحتوي على معلومات صحية غير دقيقة، وهذا قد يعرض المستخدمين للخطر، مثلًا، تم تقديم معلومات مغلوطة عن اختبارات وظائف الكبد، مما قد يجعل الأشخاص الذين يعانون من مشاكل في الكبد يعتقدون أن حالتهم الصحية طبيعية.
أيضًا، التحقيق أظهر أنه عند البحث عن “ما هو المعدل الطبيعي لفحوصات دم الكبد” تظهر أرقام كثيرة دون أي سياق كافٍ، ودون اعتبار عوامل مثل الجنس أو العرق أو العمر، مما جعل الخبراء يشيرون إلى أن ما يراه الذكاء الاصطناعي “طبيعيًا” قد يختلف كثيرًا عن المعايير الفعلية، وهذا قد يؤدي إلى تجاهل المرضى لمتابعة حالتهم الصحية بشكل صحيح.
بعد هذا التحقيق، قامت غوغل بإزالة الملخصات المتعلقة بـ”المعدل الطبيعي لفحوصات دم الكبد” و”المعدل الطبيعي لاختبارات وظائف الكبد”، وتحدث متحدث باسم الشركة بأنهم لا يعلقون على حالات الإزالة الفردية، ولكنهم يعملون على تحسينات عامة عند الحاجة.
هناك أيضًا خمس خدمات لم تعمل بشكل جيد حتى بعد تعديل الصيغ المستخدمة في البحث، واعتبرت مسؤولة في British Liver Trust أن هذا الأمر مقلق، حيث أعربت عن مخاوفها من أن إعادة صياغة السؤال قد تؤدي إلى ظهور ملخصات مضللة جديدة، مما يعكس القلق بشأن دقة المعلومات الصحية التي ينتجها الذكاء الاصطناعي.
وبالإضافة إلى ذلك، لفهم نتائج فحص وظائف الكبد، يجب النظر في مجموعة من الاختبارات الدموية المعقدة، ولا يُنصح بالاعتماد فقط على الأرقام، كما أن ملخصات الذكاء الاصطناعي تظهر في مواضيع صحية أخرى، حيث وُصفت بعض المعلومات بأنها خاطئة تمامًا وخطيرة، وعند سؤال غوغل عن سبب عدم إزالة هذه الملخصات، أكدت أنها تستند إلى مصادر موثوقة وتحث المستخدمين على استشارة المتخصصين عند الضرورة.