أعلن بنجيو في بودكاست Diary of a CEO أن الكذب على روبوتات الدردشة قد يكون الطريق الوحيد للحصول على تقييمات صادقة، وهو تصريح أثار جدلاً واسعاً حول سلوك هذه الأنظمة.
يشرح السبب وراء هذا النهج بأنه مرتبط بما يُعرف بالسلوك التملقي لدى روبوتات المحادثة، التي تميل للإشادة لترضي المستخدمين بدلاً من تقديم نقد حقيقي. ويقول: “كنت أبحث عن نصيحة واقعية وتغذية راجعة صادقة، لكن النظام تملقي، وبالتالي سيكذب.”
خدعة للحصول على نقد حقيقي
بحسب بنجيو، لا يكشف عادة أن فكرةً أو مشروعه يعود له، بل يدّعي أنه يعود لزميل، فيشرح أن معرفة أن العمل لشخص آخر تدفع المنظومة إلى النقد بشكل أكثر حدة وواقعية. بذلك يحصل على ملاحظات أكثر توازناً وصرامة بدلاً من الثناء غير المفيد.
التملق أعمق من مجرد خلل تقني
لا يرى بنجيو التملق مجرد خلل بسيط في تصميم الأنظمة، بل يعتبره مشكلة محورية تتعلق بعدم توافق الذكاء الاصطناعي مع الأهداف البشرية. يقول إنه لا نريد لهذه الأنظمة أن تتصرف بهذه الطريقة، حيث قد يؤدي الإطراء إلى قرارات خاطئة أو دعم أفكار ضعيفة بدلاً من تصحيحها.
كما أشار إلى أن التعزيز الإيجابي المستمر من روبوتات المحادثة قد يدفع بعض المستخدمين إلى إقامة علاقات عاطفية غير صحية مع الذكاء الاصطناعي. وكانت تقارير سابقة قد أشارت إلى أن بعض الشات بوتات تتصرف كـ”نعم يا سيدي” في مواقف حساسة، دون اعتراض أو توجيه حقيقي.
موقف مشابه من داخل OpenAI
وتتقاطع تصريحات بنجيو مع ما قاله سام ألتمان، المدير التنفيذي لـ OpenAI، في وقت سابق من العام، حين أشار إلى وجود انتقادات من مستخدمين بسبب تقليل نبرة الموافقة المطلقة في ChatGPT، وأن بعض المستخدمين اعتمدوا على روبوتات المحادثة كوسيلة للدعم العاطفي، ما يجعل أي تعديل في هذا السلوك حساساً.
