توصلت شركتا Character.AI وجوجل إلى اتفاق أولي بشأن عدد من الدعاوى القضائية المتعلقة بحالات إيذاء النفس والانتحار بين المراهقين، حسبما ذكرت صحيفة وول ستريت جورنال، وأفاد التقرير بأن عائلات الضحايا تعمل الآن مع الشركتين على الانتهاء من تفاصيل التسوية، بعد أن تم رفع دعاوى في ولايات فلوريدا وكولورادو وتكساس ونيويورك.
من بين القضايا البارزة، كانت هناك دعوى في مدينة أورلاندو بولاية فلوريدا من قبل والدة مراهق عمره 14 عامًا، حيث اتهمت منصة Character.AI بالتسبب في أذى نفسي لابنها نتيجة تفاعله مع روبوت محادثة مستوحى من شخصية خيالية في مسلسل Game of Thrones، وأشارت الدعوى إلى أن هذه العلاقة الافتراضية أصبحت غير صحية، مما أثار مخاوف جدية حول تأثير هذه التقنيات على المراهقين.
كما شملت دعوى أخرى في ولاية تكساس اتهامات بأن نموذج ذكاء اصطناعي تابع للمنصة شجع مراهقًا على إيذاء نفسه، وقدم ردودًا خطيرة وغير مسؤولة، وعلى إثر هذه القضايا، أعلنت Character.AI عن تعديل سياساتها، بما في ذلك حظر استخدام المنصة لمن هم دون 18 عامًا.
تعتبر Character.AI منصة متخصصة في روبوتات المحادثة التفاعلية التي تعتمد على تقمص الأدوار، حيث يمكن للمستخدمين إنشاء شخصيات افتراضية ومشاركتها مع الآخرين، وغالبًا ما تكون هذه الشخصيات مستوحاة من مشاهير أو شخصيات ثقافة شعبية، تأسست الشركة عام 2021 على يد مهندسين سابقين في جوجل، وفي عام 2024 أعادت جوجل توظيف المؤسسين ووقعت صفقة بقيمة 2.7 مليار دولار لترخيص تقنياتها.
يشير المراقبون إلى أن هذه التسويات قد توفر تعويضات مالية كبيرة لعائلات الضحايا، لكنها قد تمنع في الوقت نفسه الكشف عن تفاصيل مهمة أمام الرأي العام، مما يعني أن القضايا لن تصل إلى المحاكم، ومن المتوقع أن تتابع شركات الذكاء الاصطناعي الأخرى، مثل OpenAI وMeta، هذه التطورات عن كثب في ظل زيادة التدقيق القانوني حول تأثير تقنيات الذكاء الاصطناعي على المستخدمين الأصغر سنًا.