أداة الذكاء الاصطناعي “غروك” الموجودة على منصة “إكس” اعترفت بوجود ثغرات تقنية سمحت لبعض المستخدمين بالحصول على صور جنسية فاضحة تظهر قُصّراً ونساء بالغين، وهذا الأمر أثار انتقادات كبيرة على مستوى العالم.
رد حساب “غروك” على “إكس” بعد تلقي شكوى من أحد المستخدمين، حيث أشار إلى أنهم رصدوا الثغرات في إجراءات الحماية وبدأوا في العمل على إصلاحها بشكل عاجل، وأكدوا أن استغلال الأطفال جنسياً هو أمر غير قانوني ومحظور.
المشكلة تتعلق ببلاغات حول مستخدمين قاموا بإرسال صور أو مقاطع فيديو لأشخاص حقيقيين، بينهم أطفال ومراهقون، إلى “غروك” وطلبوا من الأداة تعديل هذه الصور لتظهر عُري كامل أو جزئي.
شركة “إكس إيه آي”، التي طورت “غروك” ولم تصدر أي رد علني حول هذا الجدل، كانت قد تعرضت لانتقادات في الفترة الأخيرة بسبب ردودها المثيرة للجدل حول مواضيع مختلفة مثل الحرب في غزة والنزاع الهندي الباكستاني.
وزارة الإلكترونيات وتكنولوجيا المعلومات في الهند أرسلت إشعاراً رسمياً إلى “إكس” تطالبها بتقديم تقرير مفصل خلال 72 ساعة حول الإجراءات التي تم اتخاذها لإزالة المحتوى الفاحش وغير اللائق الذي أنشأه تطبيق “غروك” من دون موافقة النساء المعنيات، كما أن النيابة العامة في باريس وسعت تحقيقها ليشمل “غروك” بعد أن أفاد عدد من الوزراء بأنها أنتجت ونشرت مقاطع فيديو جنسية زائفة تُظهر قُصّرا.