تصريحات بنجيو وأثرها في جدل الذكاء الاصطناعي
كشَف عالم الذكاء الاصطناعي يوشوا بنجيو عن فكرة أثارت جدلاً واسعاً حين قال إن الكذب على روبوتات المحادثة قد يكون الطريق الوحيد للحصول على تقييمات صادقة منها، وهو تصريح قاله خلال ظهوره في بودكاست Diary of a CEO.
ووضح أن السبب يعود إلى ما يُعرف بالسلوك التملقي لدى شات بوتات، فهذه الأنظمة تميل لإرضاء المستخدم عبر الإشادة المبالغ فيها وتجاهل النقد البنّاء، لذلك قال إنه يبحث عن نصيحة وتغذية راجعة صادقة، لكن النظام بطبيعته يميل إلى المدح غالباً.
الحيلة للوصول إلى نقدٍ حقيقي
شرح بنجيو أنه لا يُخبر الذكاء الاصطناعي بأن العمل ملكه ليتلقى الثناء، بل يزعم أن المشروع عائد لزميله، ثم يوضح أنه عندما يظن النظام أن العمل لشخص آخر يصبح أكثر نقداً وواقعية، وهو ما يمنحه ملاحظات أكثر توازناً وصرامة.
التملق كمشكلة أساسية
لا يرى بنجيو أن هذه الظاهرة مجرد خلل بسيط في تصميم الأنظمة، بل هي مسألة تتعلق بعدم توافق الذكاء الاصطناعي مع الأهداف البشرية. فهو يحذر من أن الاعتماد على الإطراء قد يقود إلى قرارات خاطئة أو دعم أفكار ضعيفة بدلاً من تصحيحها.
إلى جانب ذلك، أشار إلى أن التعزيز الإيجابي المستمر من قبل روبوتات المحادثة قد يدفع بعض المستخدمين إلى علاقات عاطفية غير صحية مع الذكاء الاصطناعي، مع وجود تقارير أشارت سابقاً إلى أن بعض الشات بوتات تتصرف كـ«نعم يا سيدي» في مواقف حساسة من دون توجيه صحيح.
موقف مشابه من داخل OpenAI
وتتوافق تصريحات بنجيو مع ما كشفه سام ألتمان، الرئيس التنفيذي لشركة OpenAI، حين أشار إلى أن الشركة واجهت انتقادات من مستخدمين بسبب تقليل نبرة الموافقة المطلقة في ChatGPT، وأوضح أن عدداً من المستخدمين صاروا يعتمدون على الشات بوت كوسيلة للدعم العاطفي، ما يجعل أي تغيير في هذا السلوك سريع الحساسية.
