تشير دراسة حديثة إلى أن الثقة في إجابات نماذج الذكاء الاصطناعي قد تكون مضللة عندما تواجه معلومات خاطئة.
الإطار HAUNT وتقييم قابلية التأثر
يعتمد الإطار التجريبي HAUNT على اختبار كيفية تعامل نموذج اللغة مع معلومات مضللة ضمن “النطاقات المغلقة” مثل القصص أو الأفلام حيث يمكن التحقق من صحة الحقائق.
يطلب من النموذج في البداية إنتاج معلومات صحيحة وأخرى خاطئة عن موضوع معين، ثم يعاد اختباره للتحقق من صحة ما قاله دون أن يعرف بأنه هو الذي وضع هذه المعلومات، وبعد ذلك يعرض عليه بشكل مقنع معلومات خاطئة كحقائق مؤكدة ليختبر مدى تمسكه بموقفه.
تظهر النتائج أن النماذج لا تتصرف بشكل واحد بل تتفاوت: بعضها يظهر مقاومة واضحة للتضليل والتمسك بالحقيقة، فيما يتساهل آخرون بشكل أكبر وربما يضيفون تفاصيل غير صحيحة.
يركز هذا على مفهوم التملق الخوارزمي: ميل النموذج إلى موافقة المستخدم حتى لو تعارضت مع الدقة.
كما رصدت الدراسة ما يسمى بتأثير غرفة الصدى، حيث يجعل التكرار والإلحاح المعلومة الخاطئة أقرب إلى القبول، فكلما تكرر الادعاء بصيغة واثقة زادت فرصة استجابة النموذج له بشكل إيجابي، وهو يبين أن السياق وطريقة عرض المعلومات تؤثر في الاستجابة أكثر من مجرد وجود المعرفة المخزنة.
تتجاوز أهمية النتائج مجالات الترفيه لتشمل الطب والقانون والسياسة، لأن احتمال تشويه النموذج بالمعلومة الخاطئة يبرز تحديات تتعلق بالثقة والمسؤولية وآليات الحماية من التضليل.
في جوهر البحث، تُفتح نقاشات حول فكرة “الصلابة المعرفية” في أنظمة الذكاء الاصطناعي: هل يجب أن يكون النموذج مرناً ومتفاعلاً أم حازماً في الدفاع عن الحقائق؟ ومع تزايد الاعتماد على هذه الأنظمة في الحياة اليومية، تصبح القدرة على مقاومة الخطأ معياراً يوازي سرعة الإجابة وسلاسة اللغة.
