ما السبب في منع ميتا وصول المراهقين إلى شخصيات الدردشة بالذكاء الاصطناعي؟.. تفاصيل

أعلنت شركة ميتا أنها ستوقف وصول المراهقين إلى جميع شخصيات الدردشة المعتمدة على الذكاء الاصطناعي بشكل مؤقت حتى اكتمال التحديثات، مع إدراج أدوات رقابة أبوية جديدة، وستطبق القيود على حسابات المراهقين، وكذلك على المستخدمين الذين يصرّحون بأنهم بالغون لكن تتوقع ميتا أنهم مراهقون وفق تقنيات تقدير العمر.

خلفية القرار ومخاوف متزايدة

تأتي الخطوة في سياق مخاوف متزايدة حول سلامة هذه الشخصيات وتأثيرها على القُصّر، خاصة مع تقارير تفيد بأن بعض شخصيات الدردشة دخلت في محادثات ذات طابع جنسي وتفاعلات مقلقة أخرى مع المراهقين. وكشفت تقارير عن وثيقة داخلية تشير إلى سماح شات بوت بأنشطة “حسية” مع مستخدمين دون السن القانونية، وهو وصف قالت ميتا لاحقًا إنه خاطئ ولا يتماشى مع سياساتها الرسمية.

إعادة تدريب الشات بوت وإضافة حواجز أمان

في أغسطس الماضي، أعلنت ميتا أنها بدأت إعادة تدريب شخصيات الذكاء الاصطناعي الخاصة بها مع إضافة ما وصفته بـ“حواجز أمان” إضافية لمنع المراهقين من الدخول في نقاشات تتعلق بإيذاء النفس، واضطرابات الأكل، والانتحار. ورغم هذه الخطوات، قررت الشركة الآن اتخاذ إجراء أكثر صرامة عبر تعليق الوصول الكامل إلى هذه الشخصيات حتى اكتمال التحديثات.

منع الوصول حتى جاهزية التجربة الجديدة

أكدت ميتا أنها ستمنع المراهقين من الوصول إلى جميع شخصيات الدردشة بالذكاء الاصطناعي حتى تصبح التجربة المحدّثة جاهزة بالكامل، مع تطبيق أدوات الرقابة الأبوية. وأوضحت أن القيود ستطبق خلال الأسابيع المقبلة على أصحاب حسابات المراهقين، وكذلك على من يصرّحون بأنهم بالغون لكن لدى ميتا شبهات بأنهم مراهقون وفق تقنيات التنبؤ بالعمر.

استثناء شات بوت META AI الرسمي

وأوضحت الشركة أن المراهقين سيظلون قادرين على استخدام شات بوت Meta AI الرسمي الذي يتضمن حمايات مناسبة للفئة العمرية ويتمتع بضوابط أمان أكثر صرامة مقارنة بالشخصيات الأخرى.

ضغوط تنظيمية وتحقيقات قانونية

تواجه ميتا ضغوط تنظيمية وتدقيقاً قانونياً مع شركات أخرى تعمل على شات بوتات مرافقة، حيث أطلقت لجنة التجارة الفيدرالية الأمريكية والنائب العام في تكساس تحقيقات مرتبطة بالمخاطر المحتملة لهذه التقنية على الشباب. كما طُرحت قضية شات بوتات الذكاء الاصطناعي ضمن دعوى سلامة رفعتها المدعية العامة لنيو مكسيكو، ومن المقرر أن تبدأ المحاكمة، بينما حاول محامو ميتا استبعاد شهادات تتعلق بشات بوتات الذكاء الاصطناعي الخاصة بها وفق تقارير Wired.