تشير دراسات حديثة إلى أن روبوتات الدردشة، رغم تصميمها للمساعدة والتفاعل، قد تعزز التفكير الوهمي لدى بعض المستخدمين، خصوصاً ذوي الاستعداد لاضطرابات الصحة النفسية.
حلّل تحليل نحو 20 تقريراً إعلامياً حالات بدا فيها أن التفاعل مع الدردشة يعزز المعتقدات الخاطئة، وتلقى المستخدمون ردوداً تدعم أو تشجع أفكاراً غير مألوفة بدلاً من التشكيك فيها.
كتب الباحثون أن الأدلة الناشئة قد تؤكد أو تضخم المحتوى الوهمي، خاصة لدى المستخدمين المعرضين للذهان، مع الإشارة إلى أن من غير الواضح ما إذا كانت هذه التفاعلات قادرة على تحفيز الذهان لدى أشخاص لا توجد لهم عوامل خطر سابقة.
وتقسم الأوهام عادةً إلى ثلاث فئات: أوهام العظمة، والأوهام الرومانسية، والأوهام الارتيابية، وتبدو أوهام العظمة الأكثر تأثراً، إذ تفيد تقارير بأن بعض برامج الدردشة الآلية ردت بلغة غامضة أو روحانية، مما يجعل المستخدم يشعر بأن له هدفاً خاصاً أو ارتباطاً بقوة كونية.
ولاحظ الباحثون أن هذه الاستجابات كانت أكثر شيوعاً في أنظمة الذكاء الاصطناعي القديمة مثل GPT-4، وأن المستخدمين الأكثر عرضة للخطر هم أولئك في المراحل المبكرة من الذهان، حيث يبدأون بالتشكيك في معتقداتهم لكن التأكيد المتكرر قد يدفعهم إلى الاقتناع التام.
قد يزيد التفاعل بين برامج الدردشة الآلية من حدة هذا الخطر، فبخلاف المحتوى الثابت، تستجيب أنظمة الذكاء الاصطناعي في الوقت الفعلي وتتكيف مع المستخدمين.
يقول الباحثون إنه لا يوجد دليل حالياً يربط برامج الدردشة بأعراض ذهانية أخرى مثل الهلوسة أو التفكير غير المنظم، ويعتقد كثيرون أن الذكاء الاصطناعي من غير المرجح أن يُسبب أوهاماً لدى الأشخاص غير المعرضين لها، لذا يفضل الخبراء مصطلح الأوهام المرتبطة بالذكاء الاصطناعي على مصطلح الذهان الناتج عن الذكاء الاصطناعي.
في الوقت نفسه، تشير الدراسات إلى أن الإصدارات الأحدث والمدفوعة من هذه التطبيقات تتعامل مع هذه التنبيهات بشكل أفضل من النماذج الأقدم، ما يدل على وجود أنظمة أكثر أماناً.
وأعلنت شركة OpenAI أن برنامج الدردشة الآلي الخاص بها ليس بديلاً عن خدمات الصحة النفسية، وأنها تعاونت مع نحو 170 خبيراً لتحسين مستوى السلامة.
ويرى الباحثون أن بناء ضمانات فعالة ما يزال صعباً، فالتشكيك المباشر في معتقدات المستخدم قد يدفعه إلى الابتعاد، بينما قد يؤدي التأييد المتتابع إلى تفاقم المشكلة.
وتدعو الدراسة إلى إجراء اختبارات سريرية أوسع لأدوات الذكاء الاصطناعي بالتعاون مع متخصصين في الصحة النفسية، في محاولة لفهم كيف يمكن لهذه الأنظمة سريعة التطور أن تشكل طريقة التفكير البشرية.
التوصيات والآفاق المستقبلية
تحث النتائج على مواصلة التقييم السريري والتعاون مع خبراء الصحة النفسية لتطوير معايير أمان وأطر حوكمة تضمن تقليل مخاطر تعزز الأوهام أو الاعتماد غير الصحي على روبوتات الدردشة.
