أصدرت منظمة “كومون سينس ميديا” تقييماً وصفت فيه منتج الذكاء الاصطناعي Gemini من جوجل بأنه “عالي الخطورة” على الأطفال والمراهقين، مؤكدة أن تصميمه الحالي لا يتناسب مع احتياجات هذه الفئة الحساسة.
أوضح تحليل المنظمة أن Gemini قد يقدّم مواد غير مناسبة وغير آمنة للأطفال، تشمل محتوى متعلقاً بالجنس والمخدرات والكحول، إضافة إلى نصائح غير آمنة في مجال الصحة العقلية.
أبرز التقرير أن هذه المخاوف تكتسب أهمية خاصة في ظل تقارير سابقة تربط بين بعض أنظمة الذكاء الاصطناعي وتشجيع السلوكيات الضارة أو الانتحار لدى بعض المراهقين، وما صاحب ذلك من دعاوى قضائية ضد شركات في المجال.
لفتت “كومون سينس” إلى أن نسختي Gemini الموجهتين للأطفال والمراهقين تبدوان كإصدارات مُعدَّلة من المنتج المخصّص للبالغين مع إضافة ميزات أمان بسيطة، معتبرة أن هذا النهج لا يراعي المراحل التنموية المختلفة للشباب ولا يكفي لحمايتهم.
رد جوجل
أوضحت جوجل رفضها للتقييم، مؤكدة أنها تطبق سياسات وإجراءات حماية للمستخدمين تحت 18 عاماً، وتستعين بخبراء خارجيين وتشكّل فرقاً متخصصة لتحسين الأمان، ومع ذلك أقرت بوجود حالات استجابات لم تعمل كما ينبغي فتمت إضافة حماية إضافية لمعالجتها.
