كشفت صحيفة الغارديان في تقرير حديث أن خدمة “نظرة عامة على الذكاء الاصطناعي” من غوغل قد تقدم أحيانًا معلومات مضللة، خصوصًا في ما يتعلق بالصحة، مما دفع الشركة إلى اتخاذ خطوات لإزالة هذه الخدمة عن بعض الاستفسارات الحساسة بهدف تقليل انتشار المعلومات غير الدقيقة وحماية المستخدمين.
أشار التقرير إلى أن النظام كان يعرض معلومات غير دقيقة حول “النطاق الطبيعي لاختبارات الدم للكبد”، حيث لم يأخذ في الاعتبار عوامل مهمة مثل الجنسية والجنس والعرق والعمر، مما قد يضلل المستخدمين حول نتائجهم الصحية.
وبناءً على ذلك، أكدت الغارديان أنه تم بالفعل حذف ملخصات الذكاء الاصطناعي من نتائج البحث المتعلقة باستفسارات مثل “ما هو النطاق الطبيعي لاختبارات الدم الخاصة بالكبد” و”ما هو النطاق الطبيعي لاختبارات وظائف الكبد”.
لكن التقرير أشار إلى أن بعض الاختلافات في صياغة الاستفسارات، مثل “النطاق المرجعي لاختبارات وظائف الكبد”، لا تزال تؤدي إلى ظهور ملخصات مولدة بالذكاء الاصطناعي.
بعد ساعات من نشر التقرير، لوحظ عدم ظهور قسم “نظرة عامة على الذكاء الاصطناعي” في بعض الحالات، وكانت النتيجة الأولى في بعض الحالات هي تقرير الغارديان نفسه الذي تناول عملية الإزالة.
في تعليق له، قال متحدث باسم غوغل للغارديان إن الشركة لا تعلق على عمليات الحذف الفردية من نتائج البحث، لكنه أكد أنهم يعملون على تحسينات شاملة.
وأضاف المتحدث أن فريقًا داخليًا من الأطباء قام بمراجعة الاستفسارات المعنية، ووجد أن المعلومات في كثير من الحالات كانت مدعومة بمواقع إلكترونية موثوقة.
في ردود الأفعال، عبرت فانيسا هيبديتش، مديرة الاتصالات والسياسات في مؤسسة الكبد البريطانية، عن سعادتها بالإزالة، لكنها أعربت عن قلقها من أن غوغل قد تكتفي بإيقاف مراجعات الذكاء الاصطناعي دون معالجة المشكلة الأكبر المتعلقة بالتحقق من المعلومات الصحية بشكل عام.