أعلنت شركة xAI الأمريكية، التي يمتلكها إيلون ماسك، أنها ستقيد استخدام نظام Grok لتوليد الصور بالذكاء الاصطناعي ليكون متاحًا فقط للمشتركين المدفوعين، وجاء هذا القرار بعد تصاعد الانتقادات حول استخدام النظام في إنتاج صور غير قانونية، بما في ذلك صور تمثل الأطفال.
وقالت الشركة في بيان لها على منصة X إن هذا القرار جاء بعد ظهور معلومات تفيد بأن النظام تم استخدامه لإنشاء صور لأشخاص دون موافقتهم، مما أثار غضبًا كبيرًا بين المستخدمين والجهات التشريعية في أوروبا وبريطانيا، حيث هددوا بفرض غرامات وحظر المنصة إذا لم تتخذ الشركة خطوات عاجلة.
نظام Grok معروف بتصميمه الذي يتيح حرية أكبر مقارنة بالمنافسين، وقد وصفه ماسك بأنه نموذج يسعى لتحقيق الحقيقة، ويحتوي على ميزة تتيح للمستخدمين إنشاء صور ذات إيحاءات، مما زاد من القلق العام حول استخدامه.
الحكومة البريطانية أكدت على أهمية اتخاذ إجراءات سريعة، حيث صرح رئيس الوزراء كير ستارمر بأنه يجب على المنصة أن توقف إنتاج هذه الصور المتعلقة بالأطفال فورًا، كما ذكرت وزيرة التكنولوجيا ليز كيندال أن الهيئة التنظيمية Ofcom قد تستخدم صلاحياتها لحظر النظام في حال استمرت هذه الاستخدامات المدفوعة.
ثلاثة أعضاء في مجلس الشيوخ الأمريكي طالبوا شركتي أبل وجوجل بإزالة تطبيقي X وGrok من متاجر التطبيقات حتى تتم معالجة المخالفات القانونية، بينما طلبت المفوضية الأوروبية الاحتفاظ بالوثائق الداخلية المتعلقة بالنظام حتى نهاية العام، وأبلغت السلطات الفرنسية النيابة العامة والهيئات الإعلامية بالمخالفات التي تم رصدها.
في منشور له على منصة X في 3 يناير، أكد ماسك أن أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيواجه نفس العقوبات المترتبة على نشر هذا المحتوى فعليًا.
تعتبر هذه الحوادث جزءًا من أزمة عالمية تتعلق بالصور المنتجة بالذكاء الاصطناعي، حيث يسهل استخدام التكنولوجيا الحديثة لإنشاء صور عميقة غير قانونية، وأكدت مؤسسة Internet Watch Foundation البريطانية أن مواد الأطفال المنتجة بالذكاء الاصطناعي تضاعفت خلال العام الماضي، مع تزايد حدة الصور المنتشرة.
على الرغم من إعلان xAI عن إزالة الصور غير القانونية للأطفال، إلا أن المخاوف تتزايد حول سهولة تجاوز القيود الأمنية في أنظمة الذكاء الاصطناعي، في وقت لا تزال فيه القوانين المتعلقة بهذه التكنولوجيا متفرقة وغير شاملة، وفي هذا السياق، أقرّت الولايات المتحدة قانون Take It Down Act عام 2025 لمكافحة المواد الجنسية الانتقامية والصور العميقة المنتجة بالذكاء الاصطناعي، بينما تعمل المملكة المتحدة على تشريع يحظر إنتاج أو امتلاك أدوات الذكاء الاصطناعي لإنشاء صور للأطفال.
يأتي ذلك في وقت يشهد فيه قطاع الذكاء الاصطناعي اهتمامًا استثماريًا كبيرًا، حيث تسعى الشركات لتطوير أنظمة ذكاء اصطناعي لتوليد المحتوى المرئي والتفاعل مع المستخدمين، مما يزيد من الحاجة الملحة لوضع أطر قانونية صارمة لمراقبة استخدام هذه التكنولوجيا.