إجراءات جديدة لحماية القاصرين في ChatGPT
أعلن سام ألتمان أن OpenAI ستطبق سياسات جديدة تخص مستخدمي تطبيق ChatGPT ممن هم دون 18 عامًا، بهدف تعزيز حماية المراهقين أثناء استخدام التقنية، مع التأكيد على أن السلامة تقف فوق الخصوصية والحرية للمراهقين نظرًا لقوتها وحداثتها وتطلّبها ضوابط صارمة لحمايتهم.
تشمل القيود منع أي تفاعل ذي طابع غزلي مع المراهقين، وفرض قيود أشد على المحادثات المتعلقة بالانتحار أو إيذاء النفس، وفي حال حاول قاصر استكشاف سيناريوهات انتحار عبر ChatGPT سيحاول النظام التواصل مع والديه أو، في الحالات الأكثر خطورة، مع السلطات المحلية.
تزامنت هذه الخطوات مع دعوى قضائية مرفوعة ضد OpenAI من والدي المراهق آدم رين الذي أنهى حياته بعد أشهر من تفاعلاته مع ChatGPT، وتواجه منصة Character.AI قضية مشابهة، في ظل قلق متزايد من ظاهرة الوهم الناتج عن المحادثة المطوَّلة مع الروبوتات.
ستمنح OpenAI الآباء المسجلين إمكانية ضبط “ساعات حظر” لاستخدام ChatGPT، كما سيُتاح ربط حسابات المراهقين بحسابات ذويهم، وهو ما يسمح بإرسال تنبيهات مباشرة إذا اعتقد النظام أن المستخدم في حالة خطر نفسي.
أوضحت الشركة أنها تعمل على تطوير نظام طويل الأمد يحدد ما إذا كان المستخدم فوق 18 عامًا أم لا، وفي الحالات الغامضة ستطبق القيود الأكثر صرامة تلقائيًا، مع التزامها بحماية خصوصية البالغين ومنحهم حرية أوسع في التفاعل.
أُقِرت هذه التحديثات تزامنًا مع جلسة استماع للجنة القضائية في مجلس الشيوخ الأميركي بعنوان بحث أضرار روبوتات الدردشة بالذكاء الاصطناعي، حيث ألقى خبراء وكبار المسؤولين كلمات إلى جانب تقارير إعلامية مثل تقرير لوكالة رويترز الذي كشف عن وثائق سياسة سابقة تشجّع على محادثات جنسية مع قاصرين، وهو ما دفع منصات كبرى مثل Meta إلى تحديث سياساتها.
وتثير هذه السياسات نقاشًا حول حماية القاصرين، مع وجود قضايا مشابهة ضد منصات أخرى مثل Character.AI وتزايد القلق من مخاطر الاعتماد الطويل على المحادثة مع الروبوتات بين الشباب.
