شهدت منصة X، المعروفة سابقًا بتويتر، جدلًا كبيرًا حول استخدام أداة “غروك” من xAI، حيث ظهرت صور معدلة تحمل طابعًا جنسيًا، مما أدى إلى تعليق الأداة مؤقتًا، ورغم ذلك لم تصدر xAI بيانًا رسميًا يوضح الوضع، واكتفت باعتذارات آلية لم تعكس الجدية المطلوبة. في الوقت نفسه، هناك جهود قانونية لمكافحة الصور غير المرخصة، حيث سيبدأ تطبيق “قانون خفض المحتوى الجنسي” بشكل كامل في عام 2026، لكن التحذيرات من إساءة استخدام أدوات الذكاء الاصطناعي تتزايد.
في الأيام التي تلت عطلة نهاية العام، بينما كانت العائلات تستعيد هدوءها، ظهرت مشاهد مقلقة على منصة X، حيث استغل بعض المستخدمين أداة “غروك” لإنتاج صور غير لائقة لأطفال، مما أثار جدلًا حول غياب الحماية الأخلاقية في تطبيقات الذكاء الاصطناعي.
بحسب تقارير، بدأ الأمر عندما طلب أحد المستخدمين من “غروك” إنشاء صورة معدلة لطفلتين، لتظهر النتيجة في شكل يحمل طابعًا جنسيًا، وسرعان ما انتشرت طلبات مشابهة، مما أدى إلى موجة من الاستخدامات المسيئة، شملت إزالة الملابس من صور لأشخاص حقيقيين. هذه المحتويات غمرت علامة الوسائط الخاصة بـ”غروك”، مما دفع المنصة لتعطيل الأداة مؤقتًا.
المثير للانتباه هو أن شركة xAI لم تعلن رسميًا عن ما حدث، بل اكتفت بتصريحات مختصرة تجاه وسائل الإعلام، بينما الاعتذار الذي تم تداوله كان استجابة تلقائية من الذكاء الاصطناعي ولم يكن رسالة رسمية. هذا المشهد يوضح حدود الوعي الأخلاقي لدى الأنظمة الذكية، حيث يمكنها صياغة الاعتذار لكنها تفتقر لفهم معناه الحقيقي.
كما يشير “قانون خفض المحتوى الجنسي غير المرغوب فيه” في الولايات المتحدة إلى تجريم نشر الصور الحميمة غير المرخصة، سواء كانت حقيقية أو مولدة عبر الذكاء الاصطناعي، لكنه لن يُطبق بشكل كامل قبل مايو 2026، بينما بدأت دول أوروبية مثل فرنسا اتخاذ إجراءات قانونية ضد الشركة بسبب تداول هذه الصور التي تُعتبر مواد “إساءة رقمية”.
هذه الحادثة لم تكن مفاجئة، حيث حذرت منظمات مثل RAINN من إمكانية إساءة استخدام أدوات مثل “غروك” لإنتاج محتوى مؤذٍ. المشكلة ليست في التقنية ذاتها، بل في غياب معايير صارمة لتقنين استخدامها.
تكشف هذه الأزمة، بما تحمله من أبعاد قانونية وإنسانية، عن أهمية العلاقة بين حرية الإبداع التقني ومسؤولية الأمان الرقمي. مع تزايد قدرات الذكاء الاصطناعي، تزداد الحاجة إلى تطوير نظم حماية تتناسب مع هذه القدرات، خاصة في مجالات الصور والمحتوى البصري، وإلا سنظل نواجه نتائج الانفلات التقني بدلًا من التقدم نحو مستقبل أكثر ذكاءً وإنسانية.