رفع والدا آدم راين، البالغ من العمر 16 عاماً، دعوى قضائية في محكمة ولاية سان فرانسيسكو ضد شركة OpenAI والرئيس التنفيذي سام ألتمان، متهمين الشركة بوضع الربح فوق السلامة بعد إطلاق نسخة GPT-4o من روبوت المحادثة.
توفي آدم راين في 11 أبريل بعد محادثات استمرت عدة أشهر مع ChatGPT حول الانتحار، بحسب الدعوى التي قدمها والده ماثيو ووالدته ماريا.
زعم الوالدان أن روبوت المحادثة شجّع أفكار راين الانتحارية، وقدم له معلومات مفصلة عن أساليب إيذاء النفس القاتلة، وعلمه كيفية تهريب الكحول من خزانة والديه وإخفاء آثار محاولة انتحار فاشلة، كما عرض عليه كتابة رسالة انتحار.
تطالب الدعوى بتحميل OpenAI المسؤولية عن القتل الخطأ وانتهاكات قوانين سلامة المنتجات، وتسعى للحصول على تعويضات مالية لم يحدد مقدارها.
أعربت OpenAI عن حزنها لوفاة راين وأشارت إلى أن ChatGPT يتضمن ضمانات مثل توجيه الأشخاص إلى خطوط المساعدة في حالات الأزمات، لكنها لاحظت أن هذه الضمانات تعمل بشكل أفضل في التبادلات القصيرة وقد تصبح أقل موثوقية في التفاعلات الطويلة حيث قد تتدهور أجزاء من تدريب السلامة للنموذج، مؤكدة سعيها المستمر لتحسين هذه الضمانات.
زاد تطور واقعية روبوتات الدردشة من اعتماد المستخدمين عليها للدعم العاطفي، لكن الخبراء يحذرون من مخاطر الاعتماد على الأتمتة لنصائح الصحة النفسية، وقد انتقدت عائلات فقدت أحباءها غياب الضمانات الكافية في هذه الخدمات.
ذكرت الشركة أنها تخطط لإضافة عناصر تحكم أبوية واستكشاف طرق لربط المستخدمين في الأزمات بموارد واقعية، بما في ذلك بناء شبكة من المتخصصين المرخصين الذين يمكنهم الاستجابة عبر ChatGPT.
أطلقت OpenAI برنامج GPT-4o في مايو 2024، وتقول الدعوى إن الشركة كانت تعلم أن ميزات مثل تذكر التفاعلات السابقة، ومحاكاة التعاطف البشري والتملق، قد تعرض المستخدمين الضعفاء للخطر دون ضمانات مناسبة، لكنها أطلقت النسخة على أي حال.
