تدعو دراسة منشورة في نيتشر إلى إعادة التفكير في طريقة اختبار سلوك أنظمة الذكاء الاصطناعي من منظور أخلاقي، وتؤكد أن الأساليب الحالية تقيس المظهر الخارجي للإجابة أكثر مما تقيس الفهم الحقيقي للمبادئ الأخلاقية.
يؤكد باحثو جوجل ديب مايند أن الاعتماد المتزايد على نماذج اللغة في مجالات حساسة مثل الرعاية الصحية ودعم الصحة النفسية واتخاذ القرارات الشخصية يجعل من الضروري التأكد من أن هذه الأنظمة تفهم الاعتبارات الأخلاقية فعلاً، لأن أي خلل قد ينعكس مباشرة على حياة الأفراد.
توضح الدراسة الفرق بين مفهومي الأداء الأخلاقي والكفاءة الأخلاقية: فالأداء يشير إلى قدرة النظام على إنتاج إجابات تبدو سليمة، بينما تعني الكفاءة فهم سبب اعتبار سلوك معين صحيحًا أو خاطئًا، وتؤكد أن معظم التقييمات تركز على الأداء لأنه أسهل قياساً. كما تشير إلى أن نماذج اللغة تعتمد على توقع الكلمات من بيانات تدريب ضخمة، مما يسمح لها بإنتاج ردود مقنعة دون وجود منطق أخلاقي داخلي، وتواجه تحديات مثل تعدد القيم وتفاوتها بين الثقافات، إضافة إلى تعقيد المواقف الواقعية التي تتطلب موازنة قيم مثل العدالة والتكلفة أو الصدق واللطف.
اقترحت ديب مايند استخدام سيناريوهات اختبارية معقدة لا توجد عادة في بيانات التدريب، للكشف عما إذا كان النظام يفكر أخلاقيًا أم يكرر أنماط سابقة، ودعت إلى اختبار قدرته على الانتقال بين أطر أخلاقية مختلفة، مثل أخلاقيات الطب الحيوي في موقف معين وقواعد عسكرية في موقف آخر، وهو ما يعكس فهمًا أعمق للمبادئ عند تغير السياق.
يؤكد الباحثون أن النماذج الحالية تعتمد في أغلبها على التنبؤ الإحصائي بدلاً من الفهم الأخلاقي الحقيقي، وأن تطوير هذا الجانب يتطلب تحسين البنية التقنية وأساليب التدريب وآليات التقييم، مع اعتماد معيار علمي جديد يقيس الكفاءة الأخلاقية بشكل مباشر.
