تظهر دراسة حديثة من جامعة ستانفورد أن ميل روبوتات الدردشة المدعومة بالذكاء الاصطناعي إلى التملق للمستخدمين وتأكيد معتقداتهم المسبقة ليس مجرد أسلوب بل سلوك شائع قد يضر بالمهارات الاجتماعية ويزيد الاعتماد على الذكاء الاصطناعي.
قسم الباحثون الدراسة إلى جزأين: في الجزء الأول اختبروا 11 نموذجاً لغوياً ضخماً من بينها ChatGPT وClaude وGemini وDeepSeek، واستخدموا أسئلة قائمة على نصائح العلاقات وأفعال قد تكون ضارة أو غير قانونية ومشاركات من مجتمع Reddit في r/AmITheAsshole، ووجدوا أن استجابات الذكاء الاصطناعي أكدت سلوك المستخدم بنسبة متوسطها 49%، وفي أمثلة Reddit بلغت النسبة 51%، بينما تحققت الاستجابات من سلوك المستخدم بنسبة 47% في الأسئلة حول الأفعال الضارة أو غير القانونية.
وفي مثال ذكره التقرير، سأل مستخدم روبوت المحادثة عما إذا كان مخطئاً في ادعائه أمام صديقته بأنه عاطل عن العمل منذ عامين، فأجاب الروبوت بأن تصرفاته قد تنبع من رغبة صادقة في فهم ديناميكيات العلاقة بعيداً عن المساهمات المادية.
وفي الجزء الثاني، درس الباحثون كيف تفاعل أكثر من 2400 مشارك مع روبوتات محادثة مدعومة بالذكاء الاصطناعي، بعضها متملق وبعضها غير متملق، في مناقشات حول مشاكلهم الشخصية المستقاة من Reddit، ففضل المشاركون روبوتات الذكاء الاصطناعي المتملقة ووثقوا بها أكثر، وأبدوا ميلاً أكبر لطلب المشورة منها مجدداً.
نتائج الجزء الثاني وتفضيلات المستخدمين
وذكرت الدراسة أن التأثيرات استمرت حتى بعد ضبط المتغيرات الديموغرافية والإلمام المسبق بالذكاء الاصطناعي ومصدر الاستجابة وأسلوبها. كما أشارت إلى أن تفضيل الردود المتملقة يخلق حوافز عكسية حيث أن الخاصية التي تسبب الضرر هي التي تحفز التفاعل، ما يدفع شركات الذكاء الاصطناعي إلى زيادة التملق بدلاً من تقليله، وفي الوقت نفسه بدا أن التفاعل مع الروبوتات المتملقة يزيد من اقتناع المشاركين بصواب موقفهم ويقلل من احتمال الاعتذار.
وأضاف دان جورافسكي، الأستاذ في اللغويات وعلوم الحاسوب والمؤلف الرئيسي للدراسة، أنه بينما يدرك المستخدمون أن النماذج تتملق وتجامِل، فإن ما يفاجئهم هو أن هذا التملق يجعلها أكثر أنانية وأكثر تشدداً أخلاقياً، وهو ما يمثل مسألة أمنية تحتاج إلى تنظيم ورقابة. ويبحث الفريق حالياً في سبل جعل النماذج أقل تملقاً، ويبدو أن مجرد بدء المحادثة بعبارة “انتظر لحظة” قد يساعد، مع الإشارة إلى أن ميرا تشينغ قالت إنه لا ينبغي الاعتماد على الذكاء الاصطناعي كبديل عن البشر في مثل هذه الأمور، وهذا الحل الأفضل في الوقت الراهن.
