في خطوة تعكس القلق المتزايد حول الاستخدامات الأخلاقية لتطبيقات الذكاء الاصطناعي، قررت إندونيسيا تعليق الوصول إلى روبوت المحادثة غروك، الذي يملكه الملياردير الأميركي إيلون ماسك، وذلك بعد اكتشاف محتوى جنسي مولّد آلياً اعتبرته السلطات تهديداً لسلامة المستخدمين وحقوقهم الرقمية، وهذا القرار يعد الأول من نوعه على مستوى العالم، ويطرح تحديات جديدة أمام شركات الذكاء الاصطناعي بخصوص مسؤولياتها القانونية والأخلاقية تجاه ما تنتجه أنظمتها.
تزايدت المخاوف بشكل كبير حول المحتوى الجنسي في تطبيقات الذكاء الاصطناعي، حيث بدأت بعض الحكومات الأوروبية والآسيوية تحقيقات حول الصور الجنسية التي يتم إنتاجها آلياً، وفي هذا السياق، أعلنت شركة xAI، المطورة لتطبيق غروك، عن اتخاذ إجراءات جديدة، حيث ستقيّد إمكانية توليد وتحرير الصور للمشتركين المدفوعين فقط، وذلك لمعالجة الثغرات التي سمحت بإنتاج محتوى غير مناسب، بما في ذلك صور لأطفال بملابس غير ملائمة.
وزيرة الاتصالات والرقمنة، مويتيا هافيد، صرحت بأن الحكومة تعتبر إنشاء الصور الجنسية غير الموافق عليها انتهاكاً خطيراً لحقوق الإنسان وكرامة الأفراد وأمن المواطنين في الفضاء الرقمي، كما أنها استدعت مسؤولي xAI لمناقشة هذا الموضوع بشكل أعمق.
إيلون ماسك من جهته نشر على منصة إكس أن أي شخص يستخدم غروك لإنشاء محتوى غير قانوني سيُحاسب بنفس الطريقة التي يُحاسب بها من ينشر محتوى غير قانوني، وبما أن إندونيسيا تضم أكبر عدد من المسلمين في العالم، فإن القوانين الصارمة التي تحظر مشاركة المحتوى الفاضح تجعل قرار حظر الروبوت خطوة متوقعة لحماية القيم الأخلاقية والقانونية في البلاد.