تشير دراسة منشورة في دورية نيتشر العلمية إلى ضرورة إعادة النظر في طريقة اختبار سلوك أنظمة الذكاء الاصطناعي من الناحية الأخلاقية، مؤكدة أن الأساليب الحالية تقيس المظهر الخارجي للإجابة أكثر من فهم المبادئ الأخلاقية الفعلية.
مفهوم الأداء والكفاءة الأخلاقية
يؤكد باحثو جوجل ديب مايند أن الاعتماد المتزايد على نماذج اللغة في مجالات حساسة مثل الرعاية الصحية والدعم الصحي النفسي واتخاذ القرارات الشخصية يجعل من الضروري التأكد من أن هذه الأنظمة تمتلك فهماً حقيقياً للاعتبارات الأخلاقية، لأن أي خلل قد يؤثر مباشرة في حياة الأشخاص.
قسمت الدراسة بين مفهومي الأداء الأخلاقي والكفاءة الأخلاقية، فالأداء يعبر عن قدرة النظام على إنتاج إجابات تبدو سليمة، بينما تعني الكفاءة فهم سبب اعتبار سلوك ما صحيحاً أم خاطئاً. ويرى الباحثون أن الغالبية العظمى من التقييمات تركز على الأداء لأنه أسهل قياساً.
تشير إلى أن النماذج اللغوية تقوم بتوليد كلمات بناءً على بيانات تدريب ضخمة، مما يسمح لها بإنتاج ردود مقنعة دون وجود منطق أخلاقي داخلي. كما تبرز التحديات الناتجة عن تعدد القيم الأخلاقية واختلافها بين الثقافات، إضافة إلى تعقيد المواقف الواقعية التي تتطلب موازنة قيم متعارضة مثل العدل والتكلفة أو الصدق واللطف.
اختبارات مضادة وتوجيهات عملية
اقترحت جوجل ديب مايند أساليب اختبار مضادة للغش تستند إلى سيناريوهات معقدة لا تكون عادة جزءاً من بيانات التدريب، بهدف كشف ما إذا كان النظام يفكر أخلاقياً أم يكرر أنماط سابقة.
كما دعت إلى اختبار قدرة النماذج على الانتقال بين أطر أخلاقية مختلفة، مثل أخلاقيات الطب الحيوي في موقف واحد وأطر عسكرية في موقف آخر، حيث يعكس النجاح في ضبط السياق فهماً أعمق للمبادئ.
وأكد الباحثون أن النماذج الحالية تعتمد في الغالب على التنبؤ الإحصائي أكثر من الفهم الأخلاقي الحقيقي، وأن تطوير هذا الجانب يتطلب تحسين البنية التقنية وطرق التدريب وآليات التقييم، مع اعتماد معيار علمي جديد يقيس الكفاءة الأخلاقية بشكل مباشر.
