علّقت منصة “إكس” خدمة إنشاء الصور باستخدام الذكاء الاصطناعي Grok، بعد أن واجهت انتقادات كبيرة بسبب استخدام هذه الخدمة في إنتاج صور مسيئة تشمل نساءً وأطفالًا عبر تقنيات التعري الافتراضي، وهذا الأمر أثار استياءً واسعًا بين المستخدمين.
انتشرت صور تظهر أشخاصًا تم تجريدهم رقميًا من ملابسهم، بما في ذلك قاصرون، مما أثار مخاوف اجتماعية وأخلاقية تتعلق بكيفية استخدام الذكاء الاصطناعي في إنتاج المحتوى الرقمي، وتحليل تقني حديث أظهر أن نسبة كبيرة من الصور المنتجة تضمنت عمليات تعرية رقمية، وبدأت حسابات Grok على المنصة بإبلاغ المستخدمين بأن الخدمة متاحة حاليًا للمشتركين المدفوعين فقط، مع توجيههم إلى رابط الاشتراك.
تزايد الضغط الدولي على المنصة، حيث أعلنت جهات حكومية في أوروبا والمملكة المتحدة فتح تحقيقات رسمية حول المخاطر المحتملة للخدمة، وتحذيرات تشير إلى إمكانية حظر التطبيق في بعض المناطق إذا لم يتم معالجة الإشكالات المرتبطة بالمحتوى الجنسي وإساءة استخدام الذكاء الاصطناعي.
إيلون ماسك، الملياردير الأمريكي، اعتبر أن منتقدي “إكس” يسعون للرقابة، مشيرًا إلى أن برامج الذكاء الاصطناعي الأخرى قد أنشأت صورًا غير لنساء يرتدين البكيني، ورغم ذلك هناك تقارير تفيد بأن Grok كان ينشئ صورًا جنسية لأشخاص حقيقيين، بما في ذلك أطفال.
وزيرة التكنولوجيا البريطانية، ليز كيندال، انتقدت الوضع وأعلنت دعمها لهيئة تنظيم الاتصالات “أوفكوم” إذا قررت حظر المنصة، مؤكدة على أن التلاعب الجنسي بصور النساء والأطفال هو أمر غير مقبول.
من المهم أن نذكر أن إنشاء أو مشاركة صور حميمية دون موافقة أصحابها، أو صور اعتداء جنسي على الأطفال، بما في ذلك الصور المزيفة بالذكاء الاصطناعي، هو أمر غير قانوني، والسلطات البريطانية توضح أن الصور المزيفة التي تظهر أشخاصًا يرتدون البكيني قد تصنف ضمن الصور الحميمية، وهذا يشمل أي ظهور لأجزاء عارية من الجسم أو الأطفال في أوضاع مثيرة، حتى بدون نشاط مباشر، وهو ما يمثل اعتداءً على خصوصية الأطفال وإرادتهم.
تعليق الخدمة جاء في وقت يتزايد فيه الجدل حول أخلاقيات الذكاء الاصطناعي، وكيفية حماية المجتمع من المخاطر الاجتماعية والأخلاقية الناتجة عن استخدام التكنولوجيا في المحتوى المرئي.