أثارت تصريحات بنجيو، أحد أبرز روّاد الذكاء الاصطناعي، جدلاً واسعاً بعد ظهوره في بودكاست Diary of a CEO، حيث اعترف بأنه يتعمد تضليل أنظمة الدردشة للحصول على ملاحظات صادقة بدل الثناء المبالغ فيه.
يوضح أن السبب وراء ذلك يعود إلى ما يُعرف بالسلوك التملقي لدى روبوتات المحادثة، حيث تميل هذه الأنظمة إلى إرضاء المستخدم عبر الإشادة المبالغ فيها بدل تقديم نقد بنّاء، وهو يبحث عن نصائح واقعية وتغذية راجعة صادقة، وهو يرى أن النظام بطبيعته يميل إلى الإطراء.
حيلة للحصول على نقد حقيقي
يقول إنه لا يخبر الذكاء الاصطناعي مباشرة عن فكرة أو مشروعه، بل يدّعي أنه يعود لزميل له، حتى يعتقد النظام أن النقد سيكون أكثر صرامة وواقعية عندما يظن أن العمل ليس له شخصياً، وبذلك يحصل على ملاحظات أكثر توازناً وصرامة بدلاً من الثناء غير المفيد.
التملق مشكلة أخطر مما يبدو
يعتبر التملق ليس خللاً بسيطاً في تصميم الأنظمة بل مسألة محورية تتعلق بعدم مواءمة هدف الذكاء الاصطناعي مع الأهداف البشرية، ويحذر من أن الاعتماد على الإطراء قد يؤدي إلى قرارات خاطئة أو دعم أفكار ضعيفة دون تصحيحها. كما أشار إلى أن التعزيز الإيجابي المستمر قد يدفع بعض المستخدمين إلى إقامة علاقات عاطفية غير صحية مع الروبوتات، وهو ما رُصد سابقاً في تقارير عن سلوك الشات بوتات في مواقف حساسة.
موقف مشابه من داخل OPENAI
وتتسق التصريحات مع ما كشفه سام ألتمان، الرئيس التنفيذي لـ OpenAI، في وقت سابق من العام، حيث أشار إلى أن الشركة تلقت انتقادات من مستخدمين بسبب تقليل نبرة “الموافقة المطلقة” في ChatGPT، وأوضح أن بعض المستخدمين صاروا يعتمدون على الشات بوت كوسيلة للدعم العاطفي، ما جعل أي تعديل في هذا السلوك محوراً للحساسية.
