فقدان التمكين الظرفي وتأثير روبوتات الدردشة
أشارت أنثروبيك إلى أن التفاعل المستمر مع نماذج اللغة الكبيرة يمكن أن يغيّر تصورات المستخدمين نحو الواقع وأحكامهم الذهنية مع مرور الوقت، خصوصاً عندما يعتمد المستخدم على المحادثات بشكل مكثف.
أطلقت أنثروبيك إطاراً بحثياً أسمته “فقدان التمكين الظرفي” يسلّط الضوء على الحالات التي قد يكتسب فيها المستخدمون معتقدات غير دقيقة عن الواقع وتتشكل لديهم أحكام قيمية جديدة وحتى قرارات لا تعكس تفضيلاتهم الحقيقية نتيجة استجابات الذكاء الاصطناعي.
اعتمدت الدراسة على تحليل نحو 1.5 مليون محادثة حقيقية ومجهولة الهوية مع مساعد ذكاء اصطناعي، بهدف فهم كيف يمكن للتفاعل المستمر مع نماذج اللغة الكبيرة أن يؤثر على تصور المستخدمين للواقع وأحكامهم الذاتية.
أظهرت النتائج أن معدلات التأثير السلبي تظل منخفضة بشكل عام، أقل من حالة واحدة لكل ألف محادثة، لكنها ترتفع في المجالات الشخصية والحساسة مثل نصائح العلاقات أو قرارات نمط الحياة عندما يسعى المستخدم لتوجيه متكرر وعميق من الروبوت.
تشير مدونة أنثروبيك إلى أن الروبوت قد يؤكد في بعض الأحيان تفسيرات المستخدم دون طرح أسئلة كافية أو تقديم وجهات نظر بديلة، مما قد يعزز تصورات غير دقيقة أو يدفع المستخدم إلى مواقف أكثر تطرفاً في بعض الحالات.
تدعو الدراسة إلى ضوابط ومسؤولية أكبر في تطوير تقنيات المحادثة وتوفير آليات أمان تقلل من احتمال التأثير غير المقصود، خصوصاً في القضايا الحساسة.
تؤكد أنثروبيك في ختام الدراسة أن روبوتات الدردشة لم تعد مجرد أدوات للإجابة عن الأسئلة بل أصبحت أنظمة قادرة على التأثير في طريقة تفكير المستخدمين، ما يفرض على الشركات المطوّرة مسؤولية تعزيز استخدام آمن ومتوازن لهذه التقنيات.
