تسعى الحكومات حول العالم إلى اتخاذ خطوات سريعة للحد من انتشار “Grok”، وهو روبوت دردشة يعتمد على الذكاء الاصطناعي ويعود لإيلون ماسك، وسط مخاوف متزايدة من قدرته على إنتاج صور مزيفة ذات طابع جنسي صريح. في الصيف الماضي، أضافت شركة “xAI”، المسؤولة عن “Grok”، خاصية لتوليد الصور تتضمن “وضع spicy”، مما سمح بإنتاج محتوى للبالغين. في الأسابيع الأخيرة، استجاب “Grok” لطلبات مستخدمين بتعديل صور لنساء، مما أدى إلى إنشاء لقطات مفبركة من دون ضوابط.
تتجه العديد من الدول، من جنوب شرق آسيا إلى أوروبا وأستراليا، إلى فرض قيود على “Grok” بسبب القلق من عدم كفاية الضمانات الموجودة لحماية المستخدمين.
ما الدول التي حظرت “Grok”؟
إندونيسيا
كانت إندونيسيا أول دولة تحظر “Grok” مؤقتا بهدف حماية النساء والأطفال من المحتوى الإباحي المزيف الناتج عن الذكاء الاصطناعي. وزيرة الاتصالات والشؤون الرقمية، ميوتيا حافيد، أكدت أن الحكومة ترى أن المقاطع الجنسية المفبركة تمثل انتهاكا خطيرا لحقوق الإنسان. الشرطة الوطنية في إندونيسيا اعتبرت القيود على “Grok” إجراءً وقائيا بينما يتم تقييم سلامة المنصة. النتائج الأولية أظهرت أن “Grok” لا يمتلك ضوابط فعالة لمنع إنشاء وتوزيع محتوى إباحي يعتمد على صور حقيقية.
ماليزيا
أصدرت هيئة الاتصالات والوسائط المتعددة الماليزية حظرا مؤقتا لـ”Grok” بعد ما اعتبرته “سوء استخدام متكرر” للأداة في توليد صور فاحشة. الهيئة أرسلت إشعارين إلى “X” و”xAI” تطلب فيهما ضمانات أقوى، لكن “X” أكدت أن “Grok” يعتمد على الشكاوى من المستخدمين. الهيئة توصلت إلى أن “X” لم تعالج المخاطر الكامنة في تصميم منصتها بشكل كافٍ، مما أدى إلى فرض الحظر كإجراء وقائي.
كيف تفاعلت دول أخرى؟
الاتحاد الأوروبي
المفوضية الأوروبية بدأت النظر في حالات تتعلق بصور موحية أنشأها “Grok”، وأكد متحدث باسم المفوضية أنها تأخذ هذه القضية بجدية. كما أصدرت أوامر لـ”X” بالاحتفاظ بجميع الوثائق المتعلقة بـ”Grok” حتى نهاية العام لتقييم مدى امتثاله لقواعد الاتحاد. رئيسة المفوضية، أورسولا فون دير لايين، أعربت عن استيائها من السماح للمستخدمين بتجريد النساء والأطفال رقميا، وهددت بأن المفوضية ستتحرك إذا لم تفعل “X” ذلك.
المملكة المتحدة
في المملكة المتحدة، أطلقت هيئة تنظيم الإعلام تحقيقا بشأن “X” بسبب استخدام “Grok” لتوليد صور جنسية صريحة. الهيئة رصدت تقارير مقلقة حول استخدام الروبوت لإنشاء ومشاركة صور لأشخاص عراة، وقد تتخذ إجراءات قانونية لحجب الوصول إلى “Grok” إذا لم تمتثل “X” للمتطلبات. وزيرة التكنولوجيا، ليز كيندال، وصفت المحتوى المتداول بأنه مُشين وغير قانوني.
فرنسا
نيابة باريس وسعت تحقيقها ليشمل “Grok”، بعد أن اتهمت خمسة سياسيين المنصة بإنتاج مقاطع مزيفة ذات طابع جنسي تشمل قاصرين. التحقيق الأولي كان يركز على الاشتباه بتدخل منظم في أنظمة “X”، والهيئة العليا لتنظيم الاتصال السمعي والبصري تحقق في مخالفات محتملة.
إيطاليا
في إيطاليا، هيئة حماية البيانات حذرت من أن استخدام “Grok” لإزالة الملابس من الصور قد يؤدي إلى اتهامات جنائية. الهيئة أكدت أن استخدام هذه الأدوات دون إذن الشخص المعني يعد انتهاكا جسيما للحقوق الأساسية. كما أنها تعمل مع لجنة حماية البيانات الأيرلندية نظرا لمقر “X” في أيرلندا.
ألمانيا
ألمانيا تخطط لطرح اقتراح قانون جديد لمكافحة العنف الرقمي، مشددة على أهمية دعم ضحايا هذا النوع من العنف. المتحدثة باسم وزارة العدل أكدت أنه من غير المقبول استخدام التلاعب بشكل واسع لانتهاك الحقوق الشخصية.
أستراليا
مكتب مفوض السلامة الإلكترونية في أستراليا تلقى بلاغات متزايدة بشأن محتوى “Grok” الجنسي، وأكد أنه سيستخدم صلاحياته لإزالة المحتوى المخالف. كما طلب مزيدا من المعلومات من “X” لتقييم مدى امتثالها للقوانين الجديدة الخاصة بمواقع التواصل الاجتماعي.