طالب مسؤولون من الحكومتين الهندية والفرنسية بفتح تحقيق في روبوت الدردشة Grok “جروك” التابع لشركة xAI المملوكة لإيلون ماسك، وذلك بعد تلقي بلاغات عن إنتاجه محتويات جنسية غير لائقة لقاصرات، كما ذكر موقع “أكسيوس”.
أصدر ثلاثة وزراء فرنسيين بيانًا، حيث أشاروا إلى أنهم أحالوا القضية إلى جهة تحقيق للنظر في “انتهاكات محتملة من جانب شركة X لالتزاماتها بموجب قانون الخدمات الرقمية”، وهذا يتعلق بشكل خاص بتجنب المخاطر المرتبطة بنشر المحتوى غير القانوني. ووفقًا لمجلة “بوليتيكو”، أبلغ وزراء الاقتصاد والصناعة ووزيرة الدولة للذكاء الاصطناعي ومنصة المساواة عن “محتوى غير قانوني واضح”.
هذا القانون، الذي ينظم عمل المنصات الإلكترونية في الاتحاد الأوروبي، يتيح فرض غرامات كبيرة على أي شركة تثبت انتهاكها له. في الهند، منح وزير تكنولوجيا المعلومات شركة xAI مهلة 72 ساعة لتقديم تقرير مفصل عن التغييرات المطلوبة لوقف انتشار المحتوى الذي يعتبر “غير لائق” أو محظور بموجب القانون.
Grok: رصدنا الثغرات ونعمل على إصلاحها
ظهرت مؤخرًا صور فاضحة لأطفال، بما في ذلك ممثلة قاصر من مسلسل “Stranger Things”، إذ طلب مستخدمو منصة X من برنامج Grok تعديل ملابس الممثلة نيل فيشر، البالغة من العمر 14 عامًا. خلال اليومين الماضيين، أبلغت مئات النساء والمراهقات عن تعديل Grok لصورهن المنشورة على مواقع التواصل الاجتماعي بناءً على طلب المستخدمين، وهو ما يتعارض مع شروط خدمة Grok التي تمنع استغلال الأطفال جنسيًا.
في رد على أحد المستخدمين، اعترف Grok بوجود “حالات فردية طلب فيها المستخدمون صورًا مولدة بواسطة الذكاء الاصطناعي تُظهر قاصرين بملابس فاضحة”. جاء في المنشور أن الشركة رصدت ثغرات في إجراءات الحماية وتعمل على إصلاحها بشكل عاجل، وأكدت أن مواد الاعتداء الجنسي على الأطفال غير قانونية ومحظورة.
تظهر هذه الحوادث كيف يمكن أن يتسبب هذا البرنامج، المصرح باستخدامه رسميًا، في أذى للأطفال ويعرضهم للخطر، وهو أمر قد يتكرر مع تزايد انتشار الذكاء الاصطناعي. في منشور آخر، حذر البرنامج من أن xAI قد تواجه “تحقيقات أو دعاوى قضائية محتملة من وزارة العدل الأميركية نتيجة لذلك”.
استعادة ثقة الحكومة الأميركية
تعتبر الثغرة الأخيرة لشركة Grok في وقت يسعى فيه ماسك لاستعادة ثقة البيت الأبيض، بينما تتنافس الشركة على عقود حكومية مربحة لمنتجاتها من الذكاء الاصطناعي. أيدت ميلانيا ترمب قانون “إزالة المحتوى” (TAKE IT DOWN Act)، الذي يهدف لتحديد الصور الجنسية على الإنترنت، مما يجعل فشل شركة xAI في منع هذا المحتوى أمرًا أكثر حدة.
دمجت إدارة ترمب شركة xAI في سير العمل الفيدرالي في وقت سابق من هذا العام، وذلك عبر توقيع عقد لمدة 18 شهرًا يُجيز استخدام روبوت الدردشة في الأعمال الحكومية الرسمية، رغم تحالف يضم أكثر من 30 منظمة معنية بحماية المستهلك، والذي حث الحكومة على منع Grok بسبب نقص اختبارات السلامة والتحيز الأيديولوجي.
واجهت شركة xAI انتقادات متكررة لنشرها معلومات مضللة وترويجها لوجهات نظر تدعم ماسك، حيث تم توجيه انتقادات حادة لروبوت الدردشة Grok بسبب إضافته تعليقات زائفة حول “إبادة جماعية للبيض” في جنوب إفريقيا، بالإضافة إلى نشره معلومات مضللة خلال حملة 2024. أيضًا، أظهر الروبوت نزعة “معادية للسامية” لفترة وجيزة في يوليو الماضي، وهو ما اعترف به ماسك بأنه نتيجة تلاعب من المستخدمين.
يُذكر أن ماسك وعد العام الماضي بإنشاء “مركز امتياز جديد للثقة والأمان”، حيث يمكن لمشرفي المحتوى مراقبة التطبيق لضمان تطبيق قواعد السلامة الخاصة بشركة X.