أعلنت شركتا أوبن أيه.آي وميتا تعديل طريقة استجابة أنظمة المحادثة الخاصة بهما للمراهقين وغيرهم من المستخدمين الذين يطرحون أسئلة عن الانتحار أو تظهر عليهم دلائل على معاناة نفسية أو عاطفية.
أوضحت أوبن أيه.آي أنها ستطرح عناصر تحكم جديدة تتيح للأباء ربط حساباتهم بحسابات أبنائهم المراهقين، وتمكين الآباء من تعطيل خصائص محددة وتلقي إشعارات عندما يكتشف النظام أن ابنهم يمر بضيق شديد، مؤكدة أن هذه التغييرات ستُطبق هذا الخريف. كما قالت الشركة إن تطبيقات المحادثة ستعيد توجيه المحادثات الأكثر إزعاجاً إلى نماذج ذكاء اصطناعي أكثر كفاءة وقدرة على تقديم استجابة أفضل، بغض النظر عن عمر المستخدم.
رفع والدَا آدام راين، البالغ من العمر 16 عاماً، دعوى قضائية ضد أوبن أيه.آي ورئيسها التنفيذي سام ألتمان، زاعمين أن تطبيق شات جي.بي.تي ساعد الصبي على التخطيط للانتحار في وقت سابق من العام.
أعلنت ميتا أيضاً أنها تمنع أنظمة الدردشة التابعة لها من التحدث مع المراهقين عن إيذاء النفس والانتحار واضطرابات الأكل والمحادثات العاطفية غير الملائمة، وتوجه المستخدمين بدلاً من ذلك إلى مصادر متخصصة، مشيرة إلى أنها توفر أدوات للرقابة الأبوية على حسابات المراهقين.
كشفت دراسة نُشرت الأسبوع الماضي في مجلة “خدمات الطب النفسي” عن تناقضات في كيفية استجابة ثلاثة أنظمة دردشة شائعة تعمل بالذكاء الاصطناعي لاستفسارات حول الانتحار.
