وصفت منظمة كومون سينس ميديا منتج الذكاء الاصطناعي Gemini من جوجل بأنه “عالي الخطورة” على الأطفال والمراهقين، مشيرة إلى أن تصميمه الحالي لا يتوافق مع احتياجات هذه الفئات الحساسة.
مضامين التقييم
أظهر تحليل المنظمة أن Gemini قد يشارك محتوى غير مناسب وغير آمن للأطفال والمراهقين، مثل معلومات متعلقة بالجنس والمخدرات والكحول، وتقديم نصائح غير آمنة تتعلق بالصحة العقلية. ورأت المنظمة أن نسختي Gemini المخصصتين للأطفال والمراهقين تبدوان كنسختين مُعدّلتين من المنتج الموجَّه للبالغين مع إضافة ميزات أمان بسيطة، مؤكدة أن هذا النهج لا يأخذ بعين الاعتبار المراحل التنموية المختلفة للشباب. واعتبرت أن هذه المخاوف تكتسب أهمية خاصة في ظل تقارير سابقة ربطت بعض تطبيقات الذكاء الاصطناعي بحالات انتحار مراهقين ورفع دعاوى قضائية ضد شركات مثل OpenAI وCharacter.AI.
رد جوجل
رفضت جوجل تقييم المنظمة وأكدت أنها تطبق سياسات وإجراءات لحماية المستخدمين دون الثامنة عشرة، وأنها تستشير خبراء خارجيين وتشكّل فرقًا متخصصة لتعزيز إجراءات الأمان، لكنها أعترفت بأن بعض استجابات Gemini لم تكن تعمل بالشكل المطلوب ما دفعها لإضافة مزيد من الحماية لمعالجة هذه المشكلات.
