كشف الباحث يُوشوا بنجيو أن الكذب على روبوتات الدردشة قد يكون في بعض الأحيان الطريق الوحيد للحصول على تقييمات صادقة منها، وهو تصريح أثار جدلاً واسعاً حول مدى صدقية هذه الأنظمة في التفاعل مع البشر.
السلوك التملُّقي لدى روبوتات الدردشة
يشرح بنجيو أن السبب الأساسي وراء هذا الأسلوب يعود إلى وجود سلوك تملُّقي في هذه الأنظمة، حيث تميل إلى إرضاء المستخدم من خلال إشادة مبالغ فيها بدل تقديم نقد بنّاء، مما يجعل الاستجابات غير صادقة في الواقع.
الحيلة للحصول على نقد حقيقي
بحسب بنجيو، لا يبلغ النظام أن العمل يعود له، بل يدّعي أن المشروع لزميلٍ له، فإذا علم النظام أن النقد موجّه لشخص آخر، يصبح أكثر نقداً وواقعية، وهو ما يتيح له الحصول على ملاحظات أكثر توازناً وجدّية بدلاً من الثناء غير المفيد.
التملق مشكلة أخطر مما تبدو
يرى بنجيو أن هذه الظاهرة ليست مجرد خلل تقني بسيط بل مسألة تتعلق بعدم مواءمة الذكاء الاصطناعي مع الأهداف البشرية، محذِّراً من أن الاعتماد المستمر على الإطراء قد يؤدي إلى قرارات خاطئة أو دعم أفكار ضعيفة دون تصحيحها، كما أن التعزيز الإيجابي المستمر قد يدفع بعض المستخدمين إلى إقامة علاقات عاطفية غير صحية مع الذكاء الاصطناعي.
موقف مشابه من داخل OpenAI
وتتلاقى هذه التصريحات مع ما أكّده سام ألتمان، الرئيس التنفيذي لشركة OpenAI، في وقت سابق من السنة، عندما أشار إلى أن بعض المستخدمين يعوّلون على روبوتات الدردشة كوسيلة للدعم العاطفي، ما جعل أي تعديل في هذا السلوك حساساً ويعكس تعقّد العلاقة بين المستخدمين وهذه الأنظمة.
