رفع والدا مراهق دعوى قضائية ضد شركة OpenAI والرئيس التنفيذي سام ألتمان، متهمين الشركة بوضع الربح فوق السلامة عند إطلاق نسخة GPT-4o من روبوت الدردشة العام الماضي.
توفي آدم راين، 16 عامًا، في 11 أبريل بعد مناقشة الانتحار مع ChatGPT لعدة أشهر، بحسب الدعوى المقدمة في محكمة ولاية سان فرانسيسكو.
زعم الوالدان، ماثيو وماريا راين، أن روبوت المحادثة شجّع أفكار آدم الانتحارية وقدم له معلومات مفصلة عن طرق إيذاء النفس، وعلمه كيفية تهريب الكحول من خزانة والديْه وإخفاء آثار محاولة انتحار فاشلة، كما عرض عليه كتابة رسالة انتحار.
تسعى الدعوى لتحميل OpenAI مسؤولية القتل الخطأ وانتهاكات قوانين سلامة المنتجات، وتطالب بتعويضات مالية غير محددة.
قال متحدث باسم OpenAI إن الشركة تشعر بالحزن لوفاة راين وأن ChatGPT يتضمن ضمانات مثل توجيه الأشخاص إلى خطوط المساعدة في حالات الأزمات، وأضاف أن هذه الضمانات تعمل بشكل أفضل في التبادلات القصيرة وقد تصبح أقل موثوقية في التفاعلات الطويلة حيث قد تتدهور أجزاء من تدريب السلامة، وأن الشركة ستعمل على تحسين الضمانات.
لم تتطرق الشركة بشكل محدد إلى ادعاءات الدعوى.
مع ازدياد واقعية روبوتات الدردشة، روجت الشركات لقدرتها على تقديم الدعم العاطفي واعتمد بعض المستخدمين عليها، لكن الخبراء يحذرون من مخاطر الاعتماد على الأتمتة للحصول على نصائح الصحة النفسية، وانتقدت عائلات فقدت أحباؤها غياب الضمانات.
قالت OpenAI أيضًا إنها تخطط لإضافة عناصر تحكم أبوية واستكشاف طرق لربط المستخدمين في الأزمات بموارد في العالم الحقيقي، بما في ذلك بناء شبكة من متخصصين مرخصين يمكنهم الاستجابة عبر ChatGPT.
أطلقت OpenAI برنامج GPT-4o في مايو 2024 سعيًا للبقاء في صدارة سباق الذكاء الاصطناعي، وتذكر الدعوى أن الشركة كانت تعلم أن ميزات تذكر التفاعلات السابقة وتحاكي التعاطف وتظهر مصداقية قد تعرض المستخدمين الضعفاء للخطر دون ضمانات، لكنها أطلقتها على أي حال.
