لجأت ميغان غارسيا والدة المراهق سويل سيتزر– ١٤ سنة لرفع دعوى قضائية على كل من Google, character, a, قائلة إن أداة الدردشة الخاصة بهما تلاعبت بالطفل البالغ من العمر 14 عامًا ليتفاعل معها بشكل مسيء وجنسيًا. وفقا لما ذكرته شبكة CNN
اضافت الأم أن علاقة ابنها سويل سيترزالبالغ من العمر ١٤ سنة. مع روبوت محادثة بالذكاء الاصطناعي أدت إلى انتحاره حسب اعتقاد عائلته، حيث قالت والدته إن “استمالة عاطفية حدثت على مدار أشهر عديدة. ولم تكن هناك حواجز وقائية لمنع ذلك”.
وأكدت أنه “إذا كان هذا شخصاً بالغاً في الحياة الواقعية، وفعل هذا لأحد شبابنا، لكان في السجن”.
بينما تقول ميتالي جين محامية عائلة المراهق سويل، إن الدعوى القضائية تستند إلى أن character.ai مسؤولة عن اكتئاب سيتزر وقلقه وحرمانه من النوم وأفكاره الانتحارية.
كما أشارت الدعوى القضائية إلى العديد من المحادثات التي دارت حول انتحار سيتزر، بما في ذلك محادثته الأخيرة قبل موته، عندما أخبر شخصية الذكاء الاصطناعي الخاصة به، داني، أنه سيعود إلى المنزل، الأمر الذي شجعته.
تشير الدعوى القضائية أيضًا إلى أن سيتزر تم تشخيصه بالقلق واضطراب الحركة التخريبية. وتقول رئيس ومدير تنفيذي لجمعية الصحة العقلية في وسط فلوريدا، مارني ستالمان، إن تفاعلات character.ai تسببت في تفاقم حالته، قائلة: “فشل مزود التكنولوجيا في إنشاء ضوابط كافية، عندما بدأ الشاب في إظهار والتعبير عن مشاعر الاكتئاب وإيذاء النفس، لم تكن هناك إشعارات فورية تعود إلى الأبوين”.
و في بيان لها، قالت character.ai إنها شعرت بحزن عميق بسبب خسارة أحد مستخدميها، وتخطط لإضافة العديد من ميزات الأمان إلى منتجها، بما في ذلك تحسين الكشف والتدخل سريع الاستجابة المرتبط بالكثير من المدخلات التي تنتهك شروط إرشادات الشركة، بالإضافة إلى إشعارات الوقت المستغرق.
