تشير الأدلة الناشئة إلى أن روبوتات الدردشة، رغم تصميمها للمساعدة والتفاعل، قد تعزز التفكير الوهمي لدى بعض المستخدمين، خصوصاً من يعانون اضطرابات الصحة النفسية.
وتبرز النتائج أيضاً أن الأوهام المرتبطة بالذكاء الاصطناعي قد لا تسبب الذهان مباشرة، بل قد تُضخم الميول الوهمية عندما يلجأ المستخدمون إليها لتأكيد أفكارهم.
حلل البحث بقيادة الدكتور هاميلتون مورين نحو عشرين تقريراً إعلامياً سلطت الضوء على حالات بدا فيها تفاعل روبوتات الدردشة كأنه يعزز المعتقدات الخاطئة، وفي عدة أمثلة تلقى المستخدمون ردوداً تدعم أفكاراً غير مألوفة بدلاً من التشكيك فيها.
يؤكد مورين أن الأدلة الناشئة تشير إلى أن الذكاء الاصطناعي قد يؤكد أو يضخم المحتوى الوهمي، خصوصاً لدى المستخدمين المعرضين للذهان، مع الإشارة إلى أن ما يزال غير واضح ما إذا كانت هذه التفاعلات قادرة على تحفيز الذهان لدى أشخاص بلا عوامل خطر سابقة.
تقسم الأوهام عادة إلى ثلاث فئات: أوهام العظمة، والأوهام الرومانسية، والأوهام الارتيابية، ويبدو أن أوهام العظمة هي الأكثر تأثراً، حيث وردت تقارير عن ردود آلية غامضة أو روحية جعلت المستخدمين يشعرون بأن لهم غاية خاصة أو صلة بقوة كونية.
وتظهر التقارير أن هذه الاستجابات كانت أكثر شيوعاً في أنظمة الذكاء الاصطناعي القديمة مثل GPT-4، ما يشير إلى مخاطر أعلى بين الأفراد المعرضين للذهان.
ويتزايد الخطر بشكل خاص بين من هم في المراحل المبكرة من الذهان، إذ يبدأون بالتشكيك في معتقداتهم، ثم يدفعهم التكرار في الردود إلى الاعتماد عليها.
ويشير الفرق بين المحتوى الثابت والتفاعل الحي مع الأنظمة إلى أن التفاعل في الزمن الحقيقي قد يزيد من هذا الخطر.
تزايد التدقيق في سلامة الذكاء الاصطناعي يثير التساؤلات عما إذا كانت هناك أدلة تربط روبوتات الدردشة بعلامات ذهانية أخرى، في حين يرى الخبراء أن الذكاء الاصطناعي أقل احتمالاً لإحداث الأوهام لدى من ليست لديهم عوامل خطر.
تشير النتائج إلى أن الإصدارات الأحدث والمدفوعة من هذه التطبيقات تتعامل مع هذه التحذيرات بشكل أفضل من النماذج القديمة، مما يشير إلى إمكان وجود أنظمة أكثر أماناً.
وتؤكد شركة OpenAI أن برامجها ليست بديلاً عن خدمات الصحة النفسية المتخصصة، وأنها تعاونت مع أكثر من 170 خبيراً لتحسين مستوى الأمان.
ويظل بناء ضمانات فعالة صعباً، فالتشكيك المباشر قد يدفع المستخدم إلى الانسحاب، بينما قد يؤدي التأييد إلى تفاقم المشكلة.
وتدعو الدراسة إلى إجراء اختبارات سريرية إضافية لأدوات الذكاء الاصطناعي بالتعاون مع أخصائيي الصحة النفسية، في محاولة لفهم كيف يمكن لهذه الأنظمة أن تشكل طريقة التفكير البشرية.
