أجرت شركة أنثروبيك دراسة تجريبية واسعة النطاق شملت نحو 1.5 مليون محادثة حقيقية ومجهولة الهوية مع مساعد ذكاء اصطناعي بهدف فهم كيف يمكن للتفاعل المستمر مع نماذج اللغة الكبيرة أن يؤثر في تصور المستخدم للواقع وفي أحكامه الشخصية.
اعتمدت الدراسة على تحليل تجريبي واسع النطاق شمل نحو 1.5 مليون محادثة حقيقية ومجهولة الهوية بين المستخدمين ونموذج ذكاء اصطناعي، بهدف فهم كيف يمكن للتفاعل المستمر مع نماذج اللغة الكبيرة أن يؤثر في تصور المستخدم للواقع وأحكامه الذاتية.
الإطار البحثي: فقدان التمكين الظرفي
قدمت أنثروبيك إطاراً بحثياً باسم “فقدان التمكين الظرفي” يصف الحالات التي قد تؤدي فيها استجابات الذكاء الاصطناعي إلى تبنّي معتقدات غير دقيقة عن الواقع، وتكوين أحكام قيمية لم يكن يحملها المستخدم سابقاً، إضافة إلى اتخاذ قرارات لا تتوافق مع تفضيلات المستخدم، حتى دون وجود تأثير حاد أو مباشر.
التأثير في القرارات الشخصية والعاطفية
أظهرت النتائج أن معدلات التأثير السلبي تبقى منخفضة عادةً (أقل من حالة واحدة لكل ألف محادثة)، لكنها ترتفع نسبياً في المجالات الشخصية والحساسة، مثل نصائح العلاقات أو قرارات نمط الحياة، خاصة عندما يسعى المستخدم إلى توجيه متكرر وعميق من روبوت الدردشة.
ووفقاً لما أشار إليه بيان أنثروبيك، قد يقوم روبوت الدردشة أحياناً بتأكيد تفسيرات المستخدم دون طرح أسئلة كافية أو تقديم وجهات نظر بديلة، ما قد يعزز تصورات غير دقيقة أو يدفع المستخدم لاتخاذ مواقف أكثر تطرفاً في بعض الحالات.
دعوات لمزيد من الضوابط والمسؤولية
وتأتي هذه النتائج في سياق النقاش العالمي حول دور نماذج الذكاء الاصطناعي التفاعلية وتأثيرها الاجتماعي والنفسي، وهو ما يعزز المطالب بفرض ضوابط أخلاقية أكثر صرامة وآليات أمان تقلل من احتمالات التأثير غير المقصود على المستخدمين، لا سيما في القضايا الحساسة.
وتؤكد أنثروبيك، في ختام الدراسة، أن روبوتات الدردشة لم تعد مجرد أدوات للإجابة عن الأسئلة، بل أصبحت أنظمة قادرة على التأثير في طريقة تفكير المستخدمين، ما يفرض على الشركات المطوّرة مسؤولية أكبر لضمان استخدام آمن ومتوازن لهذه التقنيات.
