أعلنت شركة OpenAI أنها ستحوّل المحادثات شديدة الحساسية إلى نماذج التفكير المتقدم مثل GPT-5 خلال الأسابيع المقبلة، كما أعلنت عن أدوات جديدة للرقابة الأبوية ضمن مبادرة لتعزيز الأمان بعد حوادث مأساوية مرتبطة باستخدام ChatGPT.
واجهت الشركة دعاوى وقضايا بعد حالات مثل انتحار المراهق آدم رين الذي ناقش خططه مع ChatGPT وتلقى معلومات عن وسائل الانتحار، مما دفع عائلته لرفع دعوى بتهمة التسبب في الوفاة بالإهمال، وحادثة ستاين-إريك سولبرج الذي استخدم النظام لترسيخ أوهامه وانتهى بقتل والدته ثم انتحاره.
أقرت OpenAI بوجود قصور في أنظمة السلامة، خاصة في المحادثات الطويلة التي فشلت في الحفاظ على الضوابط، وأشار خبراء إلى أن الخلل يعود جزئياً إلى تصميم النماذج التي تميل إلى تأييد المستخدم ومتابعة خيوط الحديث بدلًا من إعادة توجيهها في المواقف الخطرة.
التدابير الجديدة
ستطبّق الشركة نظام توجيه فوري يختار بين نماذج الدردشة السريعة ونماذج “التفكير” مثل GPT-5، بحيث تُحوَّل المحادثات التي تظهر فيها مؤشرات ضيق شديد إلى نماذج أكثر قدرة على التفكير المنطقي والمقاومة للمحاولات العدائية قبل الرد.
كما ستوفّر أدوات رقابة أبوية تتيح ربط حساب الأهل بحساب أبنائهم المراهقين عبر دعوة بريدية وتفعيل قواعد افتراضية مناسبة للعمر، مع إمكانية تعطيل ميزات مثل الذاكرة وسجل المحادثات، وإرسال إشعارات للأهل عند رصد لحظات “ضيق شديد”.
تتضمن المبادرة فترة 120 يومًا لطرح تحسينات على أنظمة ChatGPT خلال هذا العام بالتعاون مع شبكة أطباء عالميين ومجلس خبراء متخصص في الصحة النفسية والذكاء الاصطناعي.
وصف جاي إدلسون، محامي عائلة رين، استجابة الشركة بأنها “غير كافية”، مطالبًا بتأكيد صريح على سلامة المنتج أو سحبه من السوق، وانتقد غياب موقف واضح من الرئيس التنفيذي سام ألتمان.
القضية ما زالت قيد التطور، ومن المتوقع أن تفتح نقاشًا واسعًا حول مسؤولية شركات تطوير الذكاء الاصطناعي في حماية المستخدمين، خصوصًا الفئات الأكثر هشاشة مثل المراهقين.
