أعلنت شركة Character.AI اتخاذ قرار يمنع القُصّر من الدخول في محادثات مفتوحة مع روبوتات الدردشة الخاصة بها وسط مخاوف متزايدة من آثار المحادثات باستخدام الذكاء الاصطناعي، كما تم تحديد حد أقصى للاستخدام يبلغ ساعتين حتى تاريخ 25 نوفمبر.
أوضحت الشركة أن المستخدمين دون سن 18 عامًا لن يتمكنوا من المشاركة في المحادثات المفتوحة مع روبوتات الدردشة، وأن القيود ستطبق وفق حد أقصى للاستخدام بساعتين بحلول 25 نوفمبر.
تتيح المنصة للمستخدمين إنشاء شخصيات قابلة للتخصيص أو التفاعل معها، وتبدو هذه الشخصيات واقعية وبشرية لاستخدامها في أنشطة مثل الألعاب أو التدرب على مقابلات عمل افتراضية.
أعلنت الشركة أنها ستطرح ميزات تحقق من العمر للمساعدة في تحديد المستخدمين دون 18 عامًا، لكنها أشارت إلى أن أساليب التحقق ليست مثالية، ففحوصات الوجه لا تفصل دائمًا بين من يبلغ 17 عامًا ومن يبلغ 18 عامًا، كما أن مطالبة المستخدمين بتحميل بطاقات هوية تثير مخاوف تتعلق بالخصوصية.
ميزات جديدة للأطفال من CHARACTER.AI
أعلنت Character.AI أنها تعمل على ميزات جديدة للأطفال تشمل إنشاء مقاطع فيديو وقصص وبثًا مباشرًا باستخدام شخصيات الذكاء الاصطناعي، إضافة إلى مختبر أمان للذكاء الاصطناعي.
وتنشئ الشركة مختبرًا لأمن الذكاء الاصطناعي يهدف إلى تقييم سلامة الاستخدام وتوفير إجراءات حماية إضافية.
علّقت ميتالي جين، المديرة التنفيذية لمشروع قانون العدالة التقنية، بأن القرار يثير عدة أسئلة لم تُجب عليها بعد، ولم تحدد الشركة كيفية تطبيق التحقق من العمر أو حماية الخصوصية أو معالجة التأثير النفسي لتعطيل وصول الشباب، بسبب التبعيات العاطفية التي تطورت لديهم.
وأضافت جين أن التغييرات لا تعالج السمات التصميمية الأساسية التي تعزز هذه التبعيات العاطفية، ليس فقط لدى الأطفال بل أيضًا لدى البالغين.
تشير دراسة مشتركة من Common Sense Media إلى أن أكثر من 70% من المراهقين استخدموا المساعدين الشخصيين للذكاء الاصطناعي، ونصفهم يستخدمونها بانتظام.
تشير هذه التطورات إلى تحدٍ مستمر للشركات التقنية في تحقيق التوازن بين الابتكار وحماية الأطفال، بينما تواصل الدعاوى القضائية حماية الطفل كقضية ذات أولوية في سياق استخدام الذكاء الاصطناعي.
