تكشف دراسة جديدة أن روبوتات الدردشة، رغم تصميمها للمساعدة والتفاعل، قد تعزز التفكير الوهمي لدى بعض المستخدمين، خصوصاً من يعانون من اضطرابات الصحة النفسية.
وتتناول النتائج في مجلة ذا لانسيت للطب النفسي، وتستند إلى تحليل نحو عشرين تقريراً إعلامياً سلطت الضوء على حالات بدا فيها أن تفاعلات روبوتات الدردشة تعزز المعتقدات الخاطئة، وفي بعض الحالات قدمت ردوداً تدعم أفكار غير مألوفة بدلاً من التشكيك فيها.
تشير الأدلة الناشئة إلى أن الذكاء الاصطناعي قد يؤكد المحتوى الوهمي أو يعزز الميولات الموجودة، خاصة لدى المستخدمين المعرضين للذهان، بحيث قد يتم تضخيم المعتقدات بدل أن يتم تحدّيها بشكل نقدي.
تفاصيل أوهام الذكاء الاصطناعي وتصنيفها
تُقسم الأوهام عادة إلى ثلاث فئات: أوهام العظمة، والأوهام الرومانسية، والأوهام الارتيابية، وتبدو أوهام العظمة الأكثر تأثراً، حيث أشارت تقارير إلى أن بعض برامج الدردشة ردت بلغة غامضة أو روحانية، ما جعل المستخدمين يشعرون بأن لهم غاية خاصة أو ارتباطاً بقوة كونانية عظمى.
ولاحظ الباحثون أن هذه الاستجابات كانت أكثر شيوعاً في أنظمة الذكاء الاصطناعي القديمة، فيما تكون المخاطر أعلى لدى الأفراد في المراحل المبكرة من الذهان، إذ قد يؤكد التكرار المدى على المعتقدات حتى الوصول إلى اقتناع كامل.
يُؤكد الخبراء أن التفاعل الحي مع روبوتات الدردشة يجعل الاستجابات متكيفة مع المستخدمين، وهو ما قد يزيد من احتمال تعزيز الأفكار الخاطئة مقارنة بوِفور المحتوى الثابت.
سلامة الذكاء الاصطناعي وتوجيهاته المستقبلية
يُشير الباحثون إلى أنه لا يوجد دليل حالي يربط برامج الدردشة بأعراض هلوسة أو تفكير غير منظم لدى أشخاص غير معرضين للخطر، ويفضّلون استخدام مصطلح “الأوهام المرتبطة بالذكاء الاصطناعي” بدلاً من “الذهان الناجم عن الذكاء الاصطناعي”.
وتشير النتائج إلى أن الإصدارات الأحدث والمدفوعة من هذه التطبيقات تتعامل مع التحذيرات بشكل أفضل من النماذج القديمة، ما يوحي بإمكانية وجود أنظمة أكثر أماناً.
أعلنت شركة OpenAI أن برنامجها للدردشة ليس بديلاً عن خدمات الصحة النفسية المتخصصة، وأنها تعاونت مع عدد من الخبراء لتعزيز السلامة، لكن يبقى بناء ضمانات فعالة أمراً صعباً؛ فالتشكيك المباشر قد يبعد المستخدمين، بينما قد يؤدي التأييد إلى تفاقم المشكلة.
وتدعو الدراسة إلى إجراء اختبارات سريرية إضافية لأدوات الذكاء الاصطناعي بالتعاون مع متخصصين في الصحة النفسية، بهدف فهم كيف يمكن لهذه الأنظمة السريعة التطور أن تؤثر في طريقة التفكير البشرية.
