وجهت وزارة الإلكترونيات وتكنولوجيا المعلومات في الهند إنذارًا رسميًا لمنصة إكس بعد ورود بلاغات تتعلق بمساعد الذكاء الاصطناعي “غروك”، حيث أقر الحساب الرسمي للمنصة بوجود ثغرات في إجراءات الحماية لديهم وأكدوا أنهم يعملون على إصلاحها بسرعة، مشيرين إلى أن استغلال الأطفال جنسيًا هو أمر غير قانوني ومحظور.
تتعلق البلاغات بأشخاص قاموا بإرسال صور ومقاطع فيديو لأطفال ومراهقين إلى “غروك” طالبين منه تعديلها لإظهار عُري كامل أو جزئي، وهذا الأمر أثار قلقًا كبيرًا حول كيفية تعامل المنصة مع المحتوى الحساس.
لم تصدر شركة إكس إيه آي، التي طورت “غروك”، أي رد علني حول هذه القضية، إلا أن البرنامج الآلي الخاص بها أشار إلى أن أي شركة في الولايات المتحدة قد تواجه عواقب قانونية إذا سمحت بإنتاج محتوى إباحي للأطفال أو لم تمنعه.
المشكلة لم تقتصر على القاصرين فقط، بل طالت أيضًا نساء بالغين، حيث قام البرنامج بتعديل صورهن بناءً على طلب مستخدمي الإنترنت، مما زاد من حدة الانتقادات الموجهة للمنصة.
في هذا السياق، أصدرت وزارة الإلكترونيات وتكنولوجيا المعلومات في الهند إشعارًا رسميًا تطالب فيه “إكس” بتقديم تقرير مفصل خلال 72 ساعة حول الإجراءات المتخذة لإزالة المحتوى الفاحش والعاري الذي تم إنشاؤه بواسطة “غروك” دون موافقة النساء المعنيات، كما ورد في الرسالة التي نشرتها الصحافة الهندية.
على الجانب الآخر، في فرنسا، قررت النيابة العامة في باريس توسيع التحقيقات ضد منصة “إكس” لتشمل “غروك”، بعد أن أفاد عدد من الوزراء والنائبين بأن الأداة قامت بإنشاء ونشر مقاطع فيديو جنسية زائفة تظهر قاصرين، وهو ما أثار مخاوف كبيرة بشأن الخصوصية والأمان.
أفاد الوزراء بأن مقاطع الفيديو التي تم تعديلها باستخدام تقنية التزييف العميق (“ديب فايك”) تُنشر على المنصة دون موافقة الأشخاص الظاهرين فيها، مما أدى لفتح تحقيق رسمي ضد المنصة منذ يوليو الماضي بسبب بلاغات تتعلق بالتلاعب بخوارزميتها.
النيابة العامة أكدت أن جريمة تركيب صور أو مقاطع فيديو ذات طابع جنسي لشخص دون موافقته تعاقب بالسجن لمدة سنتين وغرامة تصل إلى 60 ألف يورو، وهو ما يعكس خطورة الموقف الذي تواجهه المنصة حاليًا.
في ظل هذه التطورات، قام النواب إريك بوتوريل وآرتور دولابورت باللجوء إلى القضاء مما أدى إلى توسيع التحقيقات، كما أعلن الوزراء أنهم أبلغوا النيابة العامة عن محتويات غير مشروعة مطالبين بسحبها فورًا.