أعلنت شركتا التكنولوجيا الأمريكيتان أوبن أيه.آي وميتا تعديل طريقة استجابة أنظمة المحادثة التابعة لهما للمراهقين وغيرهم من المستخدمين الذين يطرحون أسئلة عن الانتحار أو تظهر لديهم علامات معاناة نفسية وعاطفية.
قالت أوبن أيه.آي إنها تعمل على عناصر تحكم جديدة تُمكِّن الآباء من ربط حساباتهم بحسابات أبنائهم المراهقين، مع خيار تعطيل ميزات معينة وتلقي إشعارات عندما يكتشف النظام أن الابن يمرّ بضيق شديد، وأوضحت الشركة أن هذه التغييرات ستُطبَّق في الخريف القادم. وأضافت أن تطبيقات المحادثة ستعيد توجيه المحادثات الأكثر إزعاجاً إلى نماذج ذكاء اصطناعي أكثر كفاءة لتقديم استجابة أفضل، بغض النظر عن عمر المستخدم.
رفع والدا آدم راين، البالغ من العمر 16 عاماً، منذ أسبوعين دعوى قضائية ضد أوبن أيه.آي ورئيسها التنفيذي سام ألتمان، زاعمين أن تطبيق شات جي.بي.تي ساعد الصبي في التخطيط للانتحار في وقت سابق من هذا العام.
أعلنت شركة ميتا المالكة لإنستجرام وفيسبوك وواتس آب أنها تمنع أنظمة الدردشة لديها من مناقشة موضوعات إيذاء النفس والانتحار واضطرابات الأكل والمحادثات العاطفية غير الملائمة مع المراهقين، وتوجِّههم بدلاً من ذلك إلى مصادر متخصصة، مشيرة إلى أنها توفر أدوات رقابة أبوية بالفعل لحسابات المراهقين.
نُشرت دراسة الأسبوع الماضي في مجلة خدمات الطب النفسي أظهرت وجود تناقضات في كيفية استجابة ثلاثة أنظمة دردشة شائعة تعمل بالذكاء الاصطناعي لاستفسارات حول الانتحار.
