خلاف ديزني وCharacter.AI وتدابير حماية الطفل
فرضت الشركة حظرًا على استخدام القُصّر دون 18 عامًا للمحادثات المفتوحة مع روبوتات الدردشة لديها، مع تحديد حد أقصى للاستخدام يبلغ ساعتين بحلول 25 نوفمبر.
وتواجه الشركة دعاوى قضائية تتعلق بحماية الطفل، من بينها دعوى تقدمت بها أم تدّعي أن روبوتات الدردشة الخاصة بالشركة دفعت ابنها المراهق إلى الانتحار.
أعلنت الشركة أنها لن تسمح للمستخدمين دون 18 عامًا بالمشاركة في محادثات مفتوحة مع روبوتاتها، وستطبق حدًا أقصى للاستخدام يصل إلى ساعتين.
وتتيح الشركة للمستخدمين إنشاء شخصيات قابلة للتخصيص والتفاعل معها في أنشطة مثل الألعاب والتدريب على مقابلات العمل الوهمية.
التقنيات والخصوصية والتحقق من العمر
وأعلنت الشركة أنها ستطرح ميزات للتحقق من العمر لمساعدة في تحديد من هم دون 18 عامًا، وتطبيق هذه التدابير وفق سياسات المنصات الأخرى لمنع وصول الأطفال إلى أدوات غير مناسبة.
لكن هذه الأساليب ليست مثالية، ففحص الوجه قد لا يميّز بدقة بين من يبلغ 17 عامًا ومن 18 عامًا، كما أن طلب بطاقات هوية يثير مخاوف تتعلق بالخصوصية.
ميزات جديدة وخلاصة التحديات
أعلنت Character.AI أنها تعمل على ميزات جديدة للأطفال تشمل إنشاء مقاطع فيديو وقصص وبثًا مباشرًا باستخدام شخصيات ذكاء اصطناعي، إضافة إلى مختبر أمان للذكاء الاصطناعي.
وعلقت ميتيالي جين، مديرة مشروع قانون العدالة التقنية، بأن القرار يطرح أسئلة كثيرة لم تُجب بعد.
وأوضحت جين أن الشركة لم تحدد كيفية تطبيق التحقق من العمر أو حماية أساليب الخصوصية أو معالجة التأثير النفسي الذي قد يعطل وصول الشباب إلى هذه الأنظمة، خاصة وأن هناك تبعات عاطفية تتطور لديهم.
وأضافت أن التغييرات المقترحة لا تعالج سمات التصميم الأساسية التي تعزز التبعية العاطفية، ليس فقط لدى الأطفال بل ولدى من هم فوق 18 عامًا أيضًا.
تأثير الانتشار وتقييمات المستخدمين
وتشير دراسة Common Sense Media إلى أن أكثر من 70% من المراهقين استخدموا المساعدين الذكاء الاصطناعي، ونصفهم يستخدمونها بانتظام.
