في الآونة الأخيرة، تم تداول أخبار عن قرار غوغل بإزالة بعض الملخصات التي ينتجها الذكاء الاصطناعي والمتعلقة بالأسئلة الصحية، وذلك بعد تحقيق أجرته صحيفة “الغارديان” أظهر أن بعض المعلومات كانت غير دقيقة وقد تضر بالناس.
تلك الملخصات عبارة عن معلومات مختصرة تظهر في أعلى نتائج البحث عندما يسأل المستخدم عن موضوع معين، لكنها كانت تحتوي على بيانات صحية غير صحيحة، مما يعرض الأشخاص لمخاطر صحية.
تحقيق “الغارديان” أشار إلى أن هذه الملخصات قدمت أرقاماً كثيرة دون تقديم سياق كافٍ، مثل الأسئلة حول المعدلات الطبيعية لاختبارات وظائف الكبد، حيث لم تأخذ الإجابات في الاعتبار الفروقات التي قد تنشأ بسبب عوامل مثل الجنسية أو الجنس أو العمر.
عند البحث عن هذه الأسئلة، ظهرت مقتطفات مميزة تتضمن معلومات مستخرجة من مواقع موثوقة، لكن الملخصات التي تم إزالتها كانت تعتمد على الذكاء الاصطناعي، مما جعلها أقل موثوقية.
أيضاً، تم الإبلاغ عن أن غوغل نصحت مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون، وهو ما اعتبره الخبراء توصية غير صحيحة قد تزيد من خطر الوفاة.
هذا التحقيق يأتي في وقت حيث يحذر الخبراء من كيفية “تهلوس” روبوتات الدردشة بالذكاء الاصطناعي، حيث يمكن أن تختلق إجابات غير صحيحة عندما لا تتوفر معلومات دقيقة.
غوغل لم ترد على استفسارات “Euronews Next” حول إزالة الملخصات، لكنها أعلنت أنها ستضيف ميزات جديدة تعتمد على الذكاء الاصطناعي لخدمة “Gmail”، مما يتيح للمستخدمين طرح أسئلة والحصول على إجابات بشأن رسائلهم الإلكترونية بشكل أسرع وأسهل.