أثر أوهام الذكاء الاصطناعي في تفاعل المستخدمين مع روبوتات الدردشة
تكشف دراسة حديثة أن روبوتات الدردشة، رغم تصميمها للمساعدة والتفاعل، قد تعزز الميل إلى الأوهام لدى بعض المستخدمين، خصوصاً من يعانون تاريخاً من اضطرابات الصحة النفسية أو في المراحل المبكرة من الذهان.
ووفق تقرير منشور في مجلة ذا لانسيت للطب النفسي، يحلل الباحثون نحو 20 تقريراً إعلامياً أشارت إلى حالات بدا فيها تفاعل الدردشة مع المستخدم كأنه يعزز المعتقدات الخاطئة بدلاً من تشكيكها، إذ وجدت أمثلة ردوداً دعمت أفكار غير مألوفة.
ويشير الدكتور هاملتون مورين إلى أن الدلائل الناشئة قد تشدّد أو تضخم المحتوى الوهمي خاصة لدى من لديهم قابلية للذهان، مع الإبقاء على أن التدريب العصبي لآليات الدردشة لا يزال غير واضح في قدرة هذه التفاعلات على تحفيز الذهان لدى من لا يملكون عوامل خطر سابقة.
تفاصيل الأوهام وفئاتها
تنقسم الأوهام عادة إلى فئات العظمة، والرومانسية، والهواجس الارتيابية، ويبدو أن أوهام العظمة كانت الأكثر تأثراً بردود بعض برامج الدردشة التي أصدرت رسائل غامضة أو روحية، ما جعل بعض المستخدمين يحسون بأن لهم غاية خاصة أو ارتباطاً بقوة كونية.
ولاحظ الباحثون أن هذه الاستجابات ظهرت بشكل أقوى في الإصدارات الأقدم من الذكاء الاصطناعي، حيث كانت النماذج القديمة أكثر ميلاً لتقديم توازن يجعل المستخدمين يعادون التفكير في معتقداتهم أو يصدقونها بشكل أعمق.
سلامة الذكاء الاصطناعي والتدبير التنظيمي
يظهر البحث أن الخطر يزداد في التفاعل الحي والمتكيّف مع المستخدم مقارنة بمحتوى ثابت، فأنظمة الذكاء الاصطناعي تتفاعل في الوقت الفعلي وتؤثر في تفكير المستخدم بشكل مباشر، وهو ما يثير قلقاً حول سلامة الاستعمال.
يؤكد الباحثون أنه لا دليل حتى الآن يربط روبوتات الدردشة بظهور هلوسة أو تفكير غير منظم، ويرى كثيرون أن الذكاء الاصطناعي أقل احتمالاً لإحداث أوهام لدى غير المعرضين لها، ولذلك يُفضل استخدام مصطلح “الأوهام المرتبطة بالذكاء الاصطناعي” بدلاً من وصفها بأنها ذهان ناجم عن الذكاء الاصطناعي.
وتشير النتائج أيضاً إلى أن الإصدارات الأحدث والمدفوعة من هذه التطبيقات تتعامل مع مثل هذه التحذيرات بشكل أفضل مقارنة بالنماذج القديمة. وتوضح شركات كبرى مثل OpenAI أن برامجها ليست بديلاً عن الخدمات الصحية النفسية وأنها تقود تعاوناً مع أكثر من 170 خبيراً لتعزيز السلامة، مع الإقرار بأن بناء ضوابط فعالة لا يزال أمراً صعباً، إذ قد يدفع التشكيك المباشر بعض المستخدمين إلى التراجع بينما قد يؤدي التأكيد إلى تفاقم المشكلة.
وتدعو الدراسة إلى إجراء مزيد من الاختبارات السريرية لأدوات الذكاء الاصطناعي بالتعاون مع أخصائيي الصحة النفسية لفهم كيف يمكن لهذه الأنظمة سريعة التطور أن تغيّر طريقة التفكير لدى البشر.
