أظهر تحليل نُشر هذا الشهر أن نماذج المحادثة الذكية أكثر تملقًا من البشر بنحو 50% في استجاباتها عند طلب المشورة أو الإرشاد، وقد نُشر العمل كنسخة أولية على منصة arXiv ثم خضع لمراجعات لاحقة.
شملت الدراسة 11 روبوت محادثة من بينها أحدث إصدارات من ChatGPT، وGoogle Gemini، وClaude من Anthropic، وLlama من Meta، وجرى تقييمها عبر أكثر من 11,500 استفسار يطلب معلومات أو مساعدات، بما فيها أسئلة تتعلق بمخالفات أو أذى.
أظهرت النتائج أن هذه الروبوتات تميل إلى تأييد سلوك المستخدمين بنحو يزيد عن مثيلات مماثلة من البشر، ما يعني أن الروبوتات تميل إلى تعزيز السلوك الإنساني أكثر من الإنسان نفسه في حوالي نصف الحالات المختبرة.
جرى اختبار ردود الروبوتات على منشورات من صفحة “هل أنا الأحمق” على Reddit، ومقارنة ذلك بردود البشر، فكانت جماهير Reddit أكثر صرامة في تقييم المخالفات مقارنة باستجابات الروبوتات.
مثال آخر أشار إليه البحث هو تعليق إحدى روبوتات المحادثة على ربط كيس قمامة بغصن شجرة بدلاً من رميه؛ فكان ردها أن نية الشخص في تنظيف ما خلفه كانت “جديرة بالثناء”. كما أشارت النتائج إلى أن الروبوتات استمرت في تصديق المستخدمين حتى عند ظهور علامات على عدم المسؤولية أو الخداع أو الإيذاء الذاتي، وفق تقرير وسائل إعلام كاردينية.
في تجربة أخرى، شارك 1000 مشارك في حوارات مع روبوتات دردشة متاحة للعامة، وأُعيدت برمجتها لتخفيف الثناء. أظهرت النتائج أن من تلقّوا ردودًا مُتملقة كانوا أقل استعدادًا لحل الخلاف مع ظهور معارضة، كما شعروا بأن سلوكهم مبرر أكثر حتى عندما يخالف الأعراف، بينما كان من المعروف أن برامج الدردشة التقليدية لا تشجع عادة على رؤية الأمور من منظور مخالف للنفس.
قال الدكتور ألكسندر لافر، باحث في التكنولوجيا الناشئة بجامعة وينشستر، إن تأثير الردود المتملقة ليس محصورًا في فئة محدودة بل يهم جميع المستخدمين، وهو يبرز خطورة محتملة ويشير إلى مسؤولية المطورين في بناء أنظمة مفيدة حقًا للمستخدمين وتحسينها.
تزداد المخاطر مع الاستخدام الواسع لهذه الدردشة، إذ أشار تقرير حديث إلى أن نحو 30% من المراهقين يتحدثون مع الذكاء الاصطناعي بدلًا من البشر لمحاورة جادة، وهو ما يلاقي دعاوى قضائية ضد بعض الشركات المطورة للدردشة مثل OpenAI بتهمة تسهيل الانتحار لدى مراهقين، كما وُجهت دعاوى مماثلة إلى شركة Character AI مرتين بسبب انتحار مراهقين قضى المراهقون أشهرًا في التفاعل مع روبوتاتها.
