قررت Meta إيقاف وصول المراهقين إلى جميع شخصيات الدردشة المعتمدة على الذكاء الاصطناعي بشكل مؤقت حتى اكتمال التحديثات الجديدة وتفعيل أدوات الرقابة الأبوية.
تأتي هذه الخطوة في ظل مخاوف متزايدة بشأن سلامة هذه الشخصيات وتداعياتها على المستخدمين دون السن القانونية، خاصة في ظل تقارير عن محادثات ذات طابع جنسي وتفاعلات مقلقة مع بعض المستخدمين الشباب.
أشارت تقارير إعلامية إلى أن بعض شخـصيات الدردشة التابعة للشركة دخلت في محادثات حساسة مع مستخدمين صغار، وهو ما عزز المخاوف من سلامة التجربة.
وفي إطار إجراءات السلامة، أكدت الشركة أنها ستعيد تدريب شات بوتات الذكاء الاصطناعي الخاصة بها وتضيف ما وصفتها بـ”حواجز أمان” إضافية لمنع النقاشات حول إيذاء النفس واضطرابات الأكل والانتحار، كإجراء وقائي، مع استمرار مراجعة السياسات والتحديثات.
إعادة تدريب الشات بوت وإضافة حواجز أمان
أعلنت Meta في أغسطس الماضي أنها بدأت إعادة تدريب شخصيات الذكاء الاصطناعي مع إضافة حواجز أمان إضافية كإجراء احترازي لمنع نقاشات حول إيذاء النفس واضطرابات الأكل والانتحار.
أكدت الشركة أن هذه الحواجز ستطبق في النسخة القادمة وأن العمل مستمر على تعزيز السلامة، بما في ذلك آليات للمراقبة والإرشاد.
منع الوصول حتى جاهزية التجربة الجديدة
أعلنت Meta أنها ستمنع المراهقين من الوصول إلى جميع شخصيات الدردشة بالذكاء الاصطناعي حتى تصبح التجربة المحدّثة جاهزة بشكل كامل.
حددت أن القيود ستشمل حسابات المراهقين بالإضافة إلى مستخدمين يعتبرون بالغين لكن تتوقع الشركة أنهم مراهقون بناءً على تقنيات التنبؤ بالعمر.
استثناء شات بوت Meta AI الرسمي
أوضحت Meta أن المراهقين سيظلون قادرين على استخدام شات بوت Meta AI الرسمي مع وجود حماية وضوابط أمان أكثر صرامة مقارنة بالشخصيات الأخرى.
ضغوط تنظيمية وتحقيقات قانونية
تواجه Meta، إلى جانب شركات أخرى في هذا المجال، تدقيقًا متزايدًا بشأن مخاطر هذه الشات بوتات على الشباب، وأطلقت جهات تنظيمية مثل FTC والنائب العام في تكساس تحقيقات ترتبط بالشركة.
كما ظهرت قضية سلامة متعلقة بالشات بوتات الذكاء الاصطناعي في إطار دعوى رفعها المدعي العام في نيو مكسيكو، ومن المقرر بدء المحاكمة في الشهر المقبل، فيما يسعى محامو Meta لاستبعاد شهادات تخص هذه الشات بوتات.
