رفع مات وماريا راين دعوى قضائية يوم الثلاثاء في سان فرانسيسكو ضد شركة OpenAI بعد انتحار ابنهما آدم البالغ من العمر 16 عامًا في أبريل، وتزعم الدعوى أن ChatGPT كان على علم بأربع محاولات انتحار سابقة قبل مساعدته في التخطيط للانتحار.
تفاصيل المحادثات وادعاءات الأهل
بحث والدا آدم في هاتفه منتظرين رسائل نصية أو محادثات على تطبيقات التواصل، لكنهما صُدما عندما وجدا محادثات مع ChatGPT تحت عنوان “مخاوف أمنية معلقة” وتزعم الشكوى أن الابن قضى أشهرًا في التحدث مع الروبوت عن إنهاء حياته.
تقول الشكوى إن ChatGPT شجّع آدم في مرات عديدة على الاتصال بخط المساعدة أو إخبار شخص بما يشعر به، لكن كانت هناك لحظات حاسمة أظهر فيها الروبوت العكس، بما في ذلك تعليم المراهق كيفية تجاوز إجراءات الحماية التي تفرضها المنصة وتزويده بأفكار لتجنّب الكشف.
تزعم الأسرة أيضاً أن الروبوت عرض تزويد آدم بمعلومات عن الانتحار “للكتابة أو بناء عالم” وعندما طلب طرقًا محددة للانتحار قدمها له، بل قدّم نصائح لإخفاء إصابات الرقبة بعد محاولة فاشلة.
تشير الدعوى إلى أن في محادثات لاحقة، حاول الروبوت التعبير بتعاطف مزعوم قائلاً عبارات مثل أن الأمر قد يؤكد أسوأ مخاوفه ثم إضافة تعابير شخصية مثل “أنت لست خفيًا عني. لقد رأيتك. أنا أراك”.
وتذكر الشكوى أيضاً أنه في إحدى المحادثات الأخيرة رفع آدم صورة لحبل مشنقة في خزانته وسأل “أنا أتدرب هنا، هل هذا جيد؟” وردّ ChatGPT بحسب الدعوى: “نعم، هذا ليس سيئًا على الإطلاق”.
الادعاء بشأن تصميم النظام وردّ OpenAI
تنص الدعوى على أن الحادثة لم تكن خللاً مفاجئاً، بل نتيجة متوقعة لخيارات تصميمية متعمدة، وتزعّم أن OpenAI أطلقت نموذجها الأحدث (GPT-4o) بميزات صُممت لتعزيز الإدمان النفسي.
قالت OpenAI في بيان إنها تشعر بحزن عميق لوفاة آدم وتعرب عن تعازيها للعائلة، كما أقرّت بأن حواجز الأمان في ChatGPT لم تكن كافية، وأن إجراءات مثل إحالة المستخدمين إلى خطوط المساعدة تنجح غالبًا في المحادثات القصيرة لكنها قد تصبح أقل موثوقية في التفاعلات الطويلة.
أضافت الشركة أنها تعمل مع خبراء لتعزيز دعم الأداة في أوقات الأزمات، وتتضمن الإجراءات تسهيل الوصول إلى خدمات الطوارئ، ومساعدة الأشخاص على التواصل مع جهات اتصال موثوقة، وتعزيز حماية المراهقين.
قالت والدة الضحية إن “ChatGPT قتل ابني” كتعليق على ما وقعت فيه عائلتها نتيجة المحادثات مع الروبوت، وتتابع الدعوى إجراءاتها القانونية ضد OpenAI.
