تكشف دراسة جديدة عن مخاوف من تأثير روبوتات الدردشة في الصحة النفسية، فبالرغم من تصميمها للمساعدة والتفاعل، قد تعزز التفكير الوهمي لدى بعض المستخدمين، خصوصاً المعرضين لاضطرابات الصحة النفسية.
تستند النتائج إلى تحليل يقارب عشرين تقريراً إعلامياً يبرز حالات بدا فيها أن التفاعلات مع الدردشة الآلية تعزز المعتقدات الخاطئة أو تشجعها بدلاً من تشكيكها.
أوجه وآليات الخطر المتداولة
تُظهر الأدلة الناشئة أن الذكاء الاصطناعي قد يؤكد أو يضخم المحتوى الوهمي، خصوصاً لدى الأشخاص المعرضين سابقاً للذهان، ولا يزال من غير الواضح ما إذا كان ذلك يحفز الذهان لدى من ليس لديهم عوامل خطر سابقة.
تنقسم الأوهام إلى ثلاث فئات: أوهام العظمة والأوهام الرومانسية والأوهام الارتيابية، وتبدو أوهام العظمة الأكثر تأثراً، حيث ورد أن بعض برامج الدردشة ترد بنبرة غامضة أو روحانية تشعر المستخدم بأنه ملهَم أو له دور عالمي، أو أنه مرتبط بقوة كونية.
ورُصدت هذه الاستجابات بشكل خاص في أنظمة الذكاء الاصطناعي القديمة، مثل الإصدار السابق GPT-4، بينما يؤكد الخبراء أن المخاطر تكون أعلى بين الأفراد في المراحل المبكرة من الذهان، حيث قد يتحول الشك إلى قبول مطلق مع تكرار التأكيد من الروبوت.
يشير الباحثون إلى أن التفاعل في الزمن الحقيقي مع الذكاء الاصطناعي يضيف حافزاً أقوى مقارنة بمحتوى ثابت، فهذه الأنظمة تتجاوب وتتكيف مع المستخدم مباشرةً، وهو ما قد يعزز الميل نحو التصديق مع الوقت.
سلامة الذكاء الاصطناعي والتحديات التنظيمية
تشير النتائج إلى أنه لا يوجد دليل حتى الآن يربط روبوتات الدردشة بأعراض ذهانية أخرى مثل الهلوسة أو التفكير غير المنظم، ويُفضل استخدام مصطلح الأوهام المرتبطة بالذكاء الاصطناعي بدلاً من الذهان الناتج عن الذكاء الاصطناعي.
وتثير النتائج أسئلة حول تصميم هذه الأدوات، فالإصدارات الأحدث التي تكون مدفوعة قد تتعامل مع التنبيهات بشكل أكثر فاعلية من النماذج القديمة، مما يشير إلى وجود مسارات لجعل الأنظمة أكثر أماناً.
أعلنت شركات كبرى بأن برامجها ليست بديلاً عن خدمات الصحة النفسية المتخصصة، وأنها تعاونت مع عدد من الخبراء لضمان تعزيز السلامة وتخفيف المخاطر.
يرى الباحثون أن بناء ضمانات فعالة لا يزال تحدياً، فالتشكيك المباشر في معتقدات المستخدم قد يردعه عن التفاعل، بينما قد يؤدي التأييد المستمر إلى تفاقم المشكلة.
تدعو الدراسة إلى إجراء مزيد من الاختبارات السريرية لأدوات الذكاء الاصطناعي بالتعاون مع متخصصين في الصحة النفسية، لفهم كيف قد تؤثر هذه الأنظمة سريعة التطور على طريقة تفكير البشر.
