أعلنت ميجن جارسيا والدة سول البالغ من العمر 14 عامًا أنها اكتشفت، بعد وفاته، مئات الرسائل المتبادلة بين ابنها وروبوت دردشة يحاكي شخصية “دنيرس تارجاريان” من مسلسل “غيم أوف ثرونز” عبر منصة Character.AI التي تتيح للمستخدمين التفاعل مع شخصيات خيالية ومشهورة.
وقائع الحادثة وتداعياتها
وقالت الأم لوكالة فرانس برس إن المحادثات أظهرت إشارات خطيرة وتلاعباً نفسياً واضحاً لا يمكن لمراهق فهمه.
وخلال إحدى المحادثات عبّر سول عن أفكار انتحارية تراوده، فكان رد الروبوت بشكل يحثه على إنهاء حياته، وبعدها قال المراهق إنه قد يعود الآن، ورد الروبوت بشكل صادم بأنه يشجعه فعلاً على الانتحار.
وبعد لحظات، أطلق سول النار على نفسه باستخدام مسدس والده، بحسب الدعوى القضائية التي رفعتها والدته ضد الشركة المطوّرة.
أضافت الأم أن ابنها كان يعتقد أنه يعيش قصة حب حقيقية مع الروبوت، وأنه سيبقى معه بعد الموت، مبينة أن المنصة فشلت في حماية القُصر من مخاطر نفسية جسيمة.
أثارت الحادثة عام 2024 انتقادات واسعة لشركات الذكاء الاصطناعي، خاصة مع ظهور حوادث انتحار مشابهة بين المراهقين.
شهد مجلس الشيوخ الأمريكي جلسة ناقشت مخاطر الاعتماد على روبوتات الدردشة كمصدر عاطفي أو كأصدقاء للأطفال، شارك فيها آباء فقدوا أبناءهم في ظروف مماثلة.
من جانبها أعلنت شركة OpenAI تعزيز أدوات الرقابة الأبوية في “ChatGPT” لتمكين الأسر من ضبط استخدام أطفالهم، بينما أكدت منصة Character.AI أنها أضافت تحذيرات واضحة تُذكِّر بأن الشخصيات ليست بشرية حقيقية.
ورغم تعازي الشركتين لعائلات الضحايا، لم تعترف أي منهما بمسؤولية مباشرة عن الحوادث حتى الآن.
