حجبت ماليزيا وإندونيسيا روبوت المحادثة “غروك” الذي طورته شركة “xAI” التابعة لإيلون ماسك، وذلك بعدما رصدت السلطات استخدامه في إنتاج صور ذات طابع جنسي صريح دون موافقة الأشخاص المعنيين. تعتبر هاتان الدولتان أول من يتخذ هذا القرار في ظل تزايد المخاوف العالمية من قدرة هذه الأدوات على خلق محتوى واقعي يمكن أن يتم إساءة استخدامه، في الوقت الذي لا تكفي فيه الضوابط الحالية لمنع ذلك.
الروبوت “غروك” متاح عبر منصة “إكس” المملوكة لماسك، وقد تعرض لانتقادات بسبب قدرته على توليد صور معدلة، منها صور لنساء في أوضاع ذات طابع جنسي، بالإضافة إلى صور تشمل أطفال. وقد أعلنت السلطات في إندونيسيا أن الضوابط الموجودة لا تمنع إنتاج محتوى إباحي مزيف، خاصةً المحتوى الذي يستهدف النساء والقُصَّر، مما دفع الحكومة الإندونيسية لحجب الوصول إلى “غروك” مؤقتاً، تلاها قرار مشابه من ماليزيا.
وزيرة الاتصالات الإندونيسية، ميوتيا حافيد، أكدت أن إنشاء صور جنسية مزيفة دون موافقة يعد انتهاكاً لحقوق الإنسان، وأشارت إلى أن الهدف من هذه الخطوة هو حماية المجتمع من المحتوى الإباحي المزيف الذي يتم إنتاجه باستخدام الذكاء الاصطناعي. كما ذكر المدير العام للإشراف على الفضاء الرقمي في إندونيسيا، ألكسندر سابار، أن “غروك” يفتقر إلى تدابير الحماية الفعالة، مما يعرض خصوصية الأفراد للخطر.
في ماليزيا، أمرت المفوضية للاتصالات والوسائط المتعددة بفرض تقييد مؤقت على “غروك”، مشيرةً إلى “إساءة استخدام متكررة” للأداة في إنتاج محتوى فاحش. وقد أُرسلت إشعارات إلى “X Corp.” و”xAI” للمطالبة بضمانات أقوى، لكن الردود كانت تعتمد بشكل رئيسي على آليات الإبلاغ من المستخدمين.
أُطلق “غروك” في 2023 وهو متاح مجاناً على “إكس”، حيث يمكن للمستخدمين التفاعل مع الروبوت وطرح الأسئلة. في الصيف الماضي، أُضيفت ميزة لتوليد الصور تحت اسم “Grok Imagine”، بما في ذلك وضع يسمى “spicy mode” الذي يسمح بإنشاء محتوى للبالغين. تأتي هذه القيود في سياق تدقيق متزايد على “غروك” في عدة دول مثل الاتحاد الأوروبي وبريطانيا والهند وفرنسا. الأسبوع الماضي، تم تحديد ميزات توليد الصور للمستخدمين المشتركين بمقابل، لكن المنتقدين يرون أن المشكلة لم تُعالج بالكامل.