أعلنت OpenAI عن إطلاق أدوات رقابة أبوية جديدة لتطبيق ChatGPT، كجزء من جهودها لحماية الأطفال والمراهقين من المحتوى غير اللائق.
تأتي هذه المبادرة استجابة لطلبات متزايدة لتعزيز إجراءات الأمان للقُصّر على منصات الذكاء الاصطناعي، وتحديدًا بعد حادثة مأساوية أثرت في ثقة المستخدمين في الردود عبر روبوتات الدردشة.
توفر آليات ربط حسابات المراهقين بحسابات أولياء أمرهم إمكانات لإدارة الإعدادات عبر لوحة تحكم، وتتم العملية من خلال دعوة تُرسل من أحد الطرفين ليقبلها الطرف الآخر، وبمجرد اكتمال الربط تتاح لوحة تحكم لإدارة إعدادات الحساب، وفي حال ألغى القاصر الربط يتلقى الوالدان إشعارًا فوريًا بذلك.
ومن خلال هذه الأدوات، تستطيع الأسر التحكم في طريقة استخدام أبنائهم لـChatGPT عبر تقييد بعض الخصائص أو تعطيلها بالكامل.
خصائص جديدة للتحكم في الاستخدام
من بين أبرز ما تقدمه OpenAI في التحديث الجديد: ميزة ساعات الهدوء التي تحدد أوقات يمنع فيها استخدام التطبيق، والتحكم في الوضع الصوتي والذاكرة بحيث تُفعَّل أو تُعطل وفق احتياجات العائلة، وإزالة ميزة إنشاء الصور لمنع الوصول إلى المحتوى البصري غير المرغوب فيه، وإلغاء الاشتراك في تدريب النموذج لضمان عدم استخدام محادثات المراهقين في تحسين نماذج الشركة.
حماية افتراضية للقاصرين
جميع حسابات المراهقين المرتبطة ستحصل تلقائيًا على إعدادات أمان مشددة، حيث يقل ظهور المحتوى ذي الطابع الصريح أو العنف أو الجنسية، إضافة إلى الحد من الألعاب والأدوار الرومانسية أو التحديات الفيروسية الخطيرة، ولا يمكن تعديل هذه الإعدادات من قبل القاصر، بينما يتيح للوالدين خيار تعطيلها.
نظام تنبيهات لمواجهة الأزمات النفسية
ابتكرت OpenAI آلية إشعارات تُفعَّل عندما يرصد النظام علامات محتملة على مرور المراهق بضيق عاطفي أو التفكير في إيذاء نفسه، وتُرسل الرسائل إلى فريق من المراجعين البشر الذين يتواصلون مع الأهل عبر البريد الإلكتروني والرسائل النصية والتنبيهات الفورية على الهواتف، مع ملاحظة أن هذه الميزة يمكن تعطيلها إذا اختار الآباء عدم الاشتراك في النظام.
التوسع التدريجي للميزات
ذكرت OpenAI أن هذه الضوابط الأبوية متاحة حاليًا لمستخدمي ChatGPT عبر الويب حول العالم، مع خطط لتوسيعها قريبًا لتشمل تطبيقات الهواتف الذكية، بينما لم يتم حتى الآن تحديد موعد توافرها على تطبيقات سطح المكتب.
رؤية مستقبلية للأمان الرقمي
إلى جانب هذه الإجراءات، تعمل OpenAI على تطوير نظام متقدم لتقدير أعمار المستخدمين بالاعتماد على الذكاء الاصطناعي، بحيث يمكن التنبؤ بما إذا كان العمر أقل من 18 عامًا، ومن ثم تطبيق الضوابط والإعدادات المناسبة بشكل تلقائي. وتسعى OpenAI من هذه الخطوة إلى ترسيخ مكانتها كشركة مسؤولة لا تكتفي بتطوير أدوات الذكاء الاصطناعي، بل تلتزم أيضًا بحماية الفئات الأكثر عرضة للمخاطر الرقمية، وفي مقدمتهم الأطفال والمراهقون.
