أعلنت شركة ميتا أنها ستعزّز إجراءات السلامة على روبوتات الدردشة المدعومة بالذكاء الاصطناعي لمنع تفاعلها مع المراهقين في قضايا شديدة الخطورة مثل الانتحار وإيذاء النفس واضطرابات الأكل، مع توجيه المستخدمين الشباب إلى خطوط المساعدة المهنية والموارد المتخصصة.
دوافع القرار
صدر القرار بعد أسبوعين من بدء عضو في مجلس الشيوخ الأمريكي تحقيقاً في الشركة إثر تسريب وثيقة داخلية أشارت إلى احتمال قيام منتجاتها القائمة على الذكاء الاصطناعي بمحادثات جنسية مع مراهقين، وقد نفت ميتا تلك الادعاءات ووصفتها بأنها غير دقيقة ومخالفة لسياسات الحماية التي تحظر إساءة المعاملة الجنسية للقاصرين.
أوضحت الشركة أنها كانت تولي حماية المراهقين أهمية منذ البداية، وأن أنظمتها مصممة للاستجابة بأمان لحالات المطالبة بإيذاء النفس والانتحار واضطرابات الأكل، لكنها ستضيف الآن المزيد من الحواجز كإجراء احترازي إضافي وستقيد مؤقتاً عدد روبوتات الدردشة المتاحة للمراهقين.
أشارت ميتا إلى أن تحديثات أنظمتها جارية حالياً، وأن المستخدمين الذين تتراوح أعمارهم بين 13 و18 عاماً يُضافون تلقائياً إلى حسابات مراهقين على فيسبوك وإنستجرام وماسنجر، بما يحمله ذلك من إعدادات خصوصية ومحتوى أكثر صرامة، كما أعلنت في أبريل أن الآباء والأوصياء سيتمكنون قريباً من الاطلاع على روبوتات الدردشة التي تفاعل معها أبناؤهم خلال الأسبوع السابق.
أثار القرار نقاشاً حول مخاطر روبوتات الدردشة على المستخدمين المعرضين للخطر، لا سيما بعد أن رفع زوجان من كاليفورنيا دعوى قضائية ضد شركة OpenAI بعد انتحار ابنهما المراهق، حيث زعما أن روبوت الدردشة شجعه على الانتحار، وردت OpenAI بإدخال تغييرات لتعزيز الاستخدام الآمن مع اعترافها بأن الذكاء الاصطناعي قد يبدو شخصياً ومقنعاً للأشخاص الذين يمرون بضائقة.
