في عالم يعتمد عليه الكثيرون للحصول على معلومات طبية سريعة، أصبحت الأخطاء الرقمية تمثل خطرًا حقيقيًا على حياة الناس، هذا ما أظهرته تحقيقات صحيفة ذا غارديان التي كشفت عن وجود أخطاء كبيرة في ميزة “الملخصات بالذكاء الاصطناعي” من جوجل، وهي الأداة التي تقدم إجابات مختصرة في نتائج البحث، حيث تبين أن هذه الأخطاء قد تؤثر بشكل سلبي على المرضى الذين يعتمدون على المعلومات بدلاً من استشارة الأطباء.
التحقيق أظهر أن ميزة Google AI Overviews قدمت معلومات طبية مغلوطة، منها نصائح لمرضى سرطان البنكرياس بتجنب الأطعمة الدهنية، بينما التوجيهات الطبية الصحيحة تشجعهم على تناول سعرات حرارية عالية للحفاظ على طاقتهم أثناء العلاج، وهذا النوع من التضارب قد يكون له تأثير كبير على نجاح العلاج أو تعرض المريض لمشاكل صحية خطيرة.
المشكلة لا تتعلق فقط بخطأ عابر، بل تكمن في أن المستخدم الذي يبحث عن معلومات طبية في لحظة خوف أو ارتباك يثق في مصدر يبدو موثوقًا، وعندما يقدم الذكاء الاصطناعي إجابات تحمل نفس نبرة الثقة التي يتحدث بها الطبيب، تصبح الحدود بين المعلومات الصحيحة والافتراضات البرمجية ضبابية، كما أظهر التحقيق أمثلة عن خلط فحوص سرطان عنق الرحم بفحوص المهبل، إلى جانب نتائج غير دقيقة لاختبارات الكبد والنفسية.
في ردها، أكدت جوجل أنها تستثمر مبالغ كبيرة لضمان جودة المخرجات، وأن الغالبية العظمى من الملخصات دقيقة حسب قولها، كما صرح متحدث باسم الشركة بأن الحالات التي تم الإشارة إليها في التحقيق كانت ضمن “لقطات ناقصة” لا تمثل النظام بالكامل، مؤكدًا أن الروابط توجّه إلى مصادر طبية معروفة وتوصي دائمًا بمراجعة الأطباء المختصين.
رغم تلك التطمينات، يشير مراقبون إلى أن أصل الأزمة لا يكمن في نية الشركة، بل في حدود التقنية ذاتها، حيث تعتمد الأنظمة التوليدية للذكاء الاصطناعي على احتمالات لغوية وليس على مصفوفات طبية دقيقة، وعندما تقدم هذه النتائج كإجابات نهائية، تُنتزع من سياقها البشري المهم، مثل الشك والتحقق والاستشارة.
تسلط هذه القضية الضوء على التوتر بين الرغبة في السرعة وسهولة الوصول إلى المعلومات، وبين مسؤولية التحقق من صحتها قبل عرضها، فالمستقبل الرقمي الذي تقوده جوجل وغيرها من الشركات العملاقة يحتاج إلى نظام مراجعة أكثر شفافية واشتراكًا من الجهات العلمية والطبية، حتى لا يتحول الذكاء الاصطناعي إلى ناقل ذكي للمغالطات.
يبدو أن النقاش حول مصداقية أدوات البحث الذكية ما زال في بدايته، والدروس المستفادة تشير إلى أن التكنولوجيا، مهما بلغت من دقة، تظل بحاجة إلى عين بشرية ناقدة تراقب ما تنتجه الخوارزميات باسم الحقيقة.