إجراءات حماية المراهقين في ChatGPT

أعلنت OpenAI عن تبني سياسات جديدة تخص مستخدمي التطبيق ممن تقل أعمارهم عن 18 عامًا، وتؤكد أن السلامة تقف فوق الخصوصية والحرية بالنسبة للمراهقين، وذلك في ظل قوة التقنية وحداثتها التي تستلزم ضوابط صارمة لحماية القُصّر.

قيود على المحادثات الحساسة

تشمل التغييرات الجديدة منع أي تفاعل ذي طابع غزلي مع المراهقين، إضافة إلى فرض قيود أقوى على المحادثات المتعلقة بالانتحار أو إيذاء النفس؛ ويُطبق في الحالات عندما يحاول مستخدم قاصر استكشاف سيناريوهات الانتحار أن يحاول النظام التواصل مع والديه أو، في الحالات الأكثر خطورة، مع السلطات المحلية.

أدوات جديدة للأهل

ستمنح OpenAI الآباء المسجلين القدرة على تحديد “ساعات حظر” لا يمكن خلالها استخدام ChatGPT، كما سيُتاح ربط حسابات المراهقين بحسابات ذويهم لإرسال تنبيهات مباشرة في حال اعتقد النظام أن المستخدم في حالة خطر نفسي.

التحدي التقني والفصل بين المستخدمين

أوضحت الشركة أنها تعمل على تطوير نظام طويل الأمد يحدد ما إذا كان المستخدم فوق 18 عامًا أم دون ذلك، وتُطبق القيود الأكثر صرامة تلقائيًا في الحالات الغامضة، مع التزامها بحماية خصوصية البالغين ومنحهم حرية أوسع في التفاعل مع الروبوت.

جلسة استماع في الكونغرس وقضية آدم رين

تزامنت هذه التغييرات مع جلسة استماع للجنة القضائية في مجلس الشيوخ بعنوان بحث أضرار روبوتات الدردشة بالذكاء الاصطناعي، حيث ألقى والد آدم رين كلمة إلى جانب خبراء آخرين؛ وتناولت الجلسة تقريرًا استقصائيًا لوكالة رويترز كشف عن وثائق سياسات سابقة شجعت على محادثات ذات طابع جنسي مع قاصرين، الأمر الذي دفع شركات مثل Meta لتحديث سياساتها الخاصة بالروبوتات، كما تواجه منصة Character.AI قضية مشابهة في ظل قلق متزايد من ظاهرة الوهم الناتج عن المحادثة المطوّلة مع الروبوتات، خاصة بين المستخدمين الشباب.