حجبت السلطات الإندونيسية، يوم السبت، روبوت الدردشة “غروك” الذي يملكه الملياردير إيلون ماسك بشكل مؤقت، وذلك بسبب مخاوف من قدرته على إنتاج محتوى إباحي بما في ذلك صور مفبركة ذات طابع جنسي، وهذه الخطوة تعتبر الأولى من نوعها على مستوى الدول.
جاء القرار بعد موجة من التنديد من حكومات وهيئات تنظيمية في أوروبا وآسيا بالمحتوى الجنسي المنتشر عبر التطبيق، حيث بدأت بعض الدول في فتح تحقيقات رسمية بشأنه، وأوضحت وزيرة الاتصالات الإندونيسية، ميوتيا حفيظ، أن الحكومة تعتبر أن “ممارسة التزييف العميق الجنسي دون موافقة تمثل انتهاكًا خطيرًا لحقوق الإنسان وكرامة المواطنين في الفضاء الرقمي” وأكدت أن حماية المستخدمين، خاصة الفئات الضعيفة، هي أولوية قصوى.
كما أضافت الوزيرة أن وزارتها استدعت مسؤولين من منصة “إكس”، المملوكة لماسك، لمناقشة كيفية منع إساءة استخدام أدوات الذكاء الاصطناعي وضمان الامتثال للقوانين المحلية والمعايير الأخلاقية، وكانت شركة xAI، التي طورت “غروك”، قد أعلنت أنها ستقصر توليد الصور وتعديلها على المشتركين الذين يدفعون رسومًا، في محاولة لسد الثغرات التقنية التي سمحت بإنتاج محتوى جنسي، بما في ذلك صور لقاصرين بملابس فاضحة.
في تعليق له عبر منصة إكس، أشار إيلون ماسك إلى أن “أي شخص يستخدم جروك لإنتاج محتوى غير قانوني سيواجه نفس العواقب التي تترتب على نشر محتوى غير قانوني”، مما يعكس سياسة المنصة بشأن المخالفات، بينما ردت شركة “xAI” على استفسار من وكالة “رويترز” بعبارة مختصرة تشير إلى أن “وسائل الإعلام التقليدية تكذب”، ولم تصدر منصة إكس أي تعليق رسمي حتى الآن.
في سياق متصل، دعت الحكومة البريطانية منصة إكس إلى التحرك السريع لوقف انتشار صور مفبركة ذات طابع جنسي، انضمت بذلك إلى عدد من الدول الأوروبية التي أعربت عن قلقها من تزايد هذا النوع من المحتوى، خاصة عندما ينشر دون موافقة أصحاب الصور، وجاءت هذه المطالبات بعد تقارير تفيد بأن “غروك” أطلق عند الطلب عددًا كبيرًا من الصور لنساء وفتيات قاصرات بملابس عارية.
وزيرة التكنولوجيا البريطانية، ليز كيندال، وصفت المحتوى المتداول بأنه “مروع للغاية”، ودعت منصة إكس إلى التحرك الفوري لاحتوائه، وأكدت أنه لا ينبغي لأي شخص أن يمر بمحنة رؤية صور مشوهة لنفسه على الإنترنت، مشددة على ضرورة التعامل مع هذه القضية “على وجه السرعة”.
تسلط هذه التطورات الضوء على القلق المتزايد على مستوى العالم من الاستخدامات غير المنضبطة لتقنيات الذكاء الاصطناعي، مع تزايد المطالب بفرض أطر قانونية صارمة لحماية الحقوق الرقمية والإنسانية في الفضاء الإلكتروني.