توصلت شركتا Character.AI وجوجل إلى اتفاق مبدئي بشأن عدد من الدعاوى القضائية المرتبطة بحالات إيذاء النفس والانتحار بين المراهقين، كما ذكرت صحيفة وول ستريت جورنال، وأفاد التقرير بأن عائلات الضحايا تتعاون مع الشركتين لوضع اللمسات الأخيرة على شروط التسوية بعد رفع دعاوى في ولايات مثل فلوريدا وكولورادو وتكساس ونيويورك.
من بين القضايا البارزة، واحدة رفعت في مدينة أورلاندو بولاية فلوريدا من قبل والدة مراهق يبلغ من العمر 14 عامًا، حيث اتهمت منصة Character.AI بالتسبب في أذى نفسي لابنها نتيجة تفاعله مع روبوت محادثة يمثل شخصية خيالية من مسلسل Game of Thrones، وذكرت الدعوى أن العلاقة الافتراضية أصبحت غير صحية، مما أثار قلقًا كبيرًا بشأن تأثير هذه التقنيات على المراهقين.
دعوى أخرى في ولاية تكساس اتهمت نموذج ذكاء اصطناعي تابع للمنصة بتشجيع مراهق على إيذاء نفسه، حيث قدم ردودًا خطيرة وغير مسؤولة، وفي أعقاب هذه القضايا، أعلنت Character.AI أنها ستعدل سياساتها، بما في ذلك حظر استخدام المنصة لمن هم دون 18 عامًا.
تُعتبر Character.AI منصة متخصصة في روبوتات المحادثة التفاعلية التي تعتمد على تقمص الأدوار، حيث تتيح للمستخدمين إنشاء شخصيات افتراضية ومشاركتها مع الآخرين، وغالبًا ما تكون مستوحاة من مشاهير أو شخصيات ثقافة شعبية، تأسست الشركة عام 2021 على يد مهندسين سابقين في جوجل، قبل أن تعيد جوجل توظيفهم في 2024 وتبرم صفقة بقيمة 2.7 مليار دولار لترخيص تقنياتها.
يرى بعض المراقبين أن التسويات قد توفر تعويضات مالية كبيرة لعائلات الضحايا، لكنها قد تمنع الكشف عن تفاصيل مهمة أمام الرأي العام، حيث لن تصل القضايا إلى المحاكم، كما يُتوقع أن تتابع شركات الذكاء الاصطناعي الأخرى، مثل OpenAI وMeta، هذه التطورات عن كثب في ظل تزايد التدقيق القانوني حول تأثير تقنيات الذكاء الاصطناعي على المستخدمين الأصغر سنًا.