سحبت شركة جوجل مجموعة من ملخصات الصحة المدعومة بالذكاء الاصطناعي من نتائج بحثها، وهذا جاء بعد تحقيق موسع أظهر أن المحرك كان يقدم معلومات طبية مضللة وخاطئة قد تعرض حياة المستخدمين للخطر، ومن بين ما تم رصده في التحقيق حالات وصفها الخبراء بالخطرة، مثل تقديم أرقام غير دقيقة عن نتائج فحوص وظائف الكبد، مما قد يجعل المرضى الذين يعانون من أمراض كبد حادة يظنون أن نتائجهم طبيعية ويهملون المتابعة الطبية اللازمة، ورغم أن جوجل أكدت أن ملخصاتها موثوقة وتعتمد على مصادر ذات سمعة جيدة، إلا أنها اعترفت بضرورة حذف المحتوى الذي يفتقر للسياق الطبي الدقيق، مثل عدم مراعاة العمر عند تفسير نتائج المختبرات.
ورحبت منظمات صحية بريطانية بهذه الخطوة، لكنها عبرت عن قلقها المستمر بشأن بقاء ملخصات أخرى تتعلق بالسرطان والصحة العقلية، محذرة من أن “التطمين الزائف” الذي قد يقدمه الذكاء الاصطناعي يمكن أن يكون له عواقب وخيمة، وفي الوقت الذي تواصل فيه جوجل مراجعة خوارزمياتها لتحسين الدقة، يشدد خبراء التقنية والصحة على أهمية أن يبقى محرك البحث وسيلة لتوجيه المستخدمين نحو المؤسسات الطبية المختصة، بدلاً من تقديم تشخيصات آلية تفتقر للعمق والمسؤولية الطبية.