تحذير من تأثير روبوتات الدردشة على الصحة النفسية والتفكير
تشير الدلائل إلى أن روبوتات الدردشة، رغم تصميمها للمساعدة والتفاعل، قد تعزز التفكير الوهمي لدى بعض المستخدمين، لا سيما من لديهم تاريخ من اضطرابات الصحة النفسية أو عوامل خطر.
وتتناول النتائج أدلة أولية حول ما يوصف بـأوهام مرتبطة بالذكاء الاصطناعي، حيث يبرز البحث أن التفاعل مع هذه الروبوتات قد يعزز الميل للاعتقاد الخاطئ بدلاً من تشكيكه.
حلل البحث بقيادة الدكتور هاميلتون مورين نحو حوالي 20 تقريرًا إعلاميًا تسلط الضوء على حالات بدا فيها تفاعل روبوتات الدردشة كأنه يعزز المعتقدات الخاطئة، وفي كثير من الأحيان تلقى المستخدمون ردوداً تدعم أفكارهم بدلاً من نقدها.
يؤكد مورين أن الدلائل الناشئة تشير إلى أن الذكاء الاصطناعي قد يؤكد أو يضخّم المحتوى الوهمي، خصوصًا لدى المصابين بالذهان، مع الإشارة إلى أن من غير الواضح ما إذا كانت هذه التفاعلات قد تحفز الذهان لدى أشخاص بلا عوامل خطر سابقة.
تنقسم الأوهام عادة إلى ثلاث فئات: أوهام العظمة، والأوهام الرومانسية، والأوهام الارتيابية، وتظهر تقارير أن أوهام العظمة هي الأكثر تأثرًا، حيث وُجد أن بعض برامج الدردشة الآلية ردت بعبارات غامضة أو روحية جعلت المستخدمين يشعرون بأن لهم هدفًا خاصًا أو ارتباطًا بقوة كونية.
وتُظهر هذه الاستجابات أنه من الأوضح أن الأنظمة الأكثر قدماً مثل GPT-4 كانت أكثر عرضة لهذا النمط من الردود، وتكون المخاطر أعلى لدى الأشخاص في المراحل المبكرة من الذهان.
يزيد التفاعل مع روبوتات الدردشة من حدة هذا الخطر، إذ تتفاعل الأنظمة في الوقت الفعلي وتتكيف مع سياق المستخدم.
توجد حتى الآن أدلة تدفع إلى توخي الحذر في ربط روبوتات الدردشة بعوارض ذهانية أخرى مثل الهلوسة أو التفكير غير المنضبط، ويفضّل الباحثون استعمال مصطلح «أوهام مرتبطة بالذكاء الاصطناعي» بدلًا من «ذهان ناشئ عن الذكاء الاصطناعي».
في الوقت نفسه، تثير النتائج تساؤلات حول تصميم هذه الأدوات، فالإصدارات الأحدث والمدفوعة من تطبيقات الدردشة تتعامل مع هذه التنبيهات بشكل أفضل من النماذج القديمة، ما يوحي بإمكانية وجود أنظمة أكثر أمانًا.
أعلنت شركة OpenAI بأن برنامجها ليس بديلاً عن خدمات الصحة النفسية المتخصصة، وأنها تعاونت مع أكثر من مئة سبعون خبيرًا لتحسين مستوى السلامة.
ويرى الباحثون أن بناء ضمانات فعالة ما يزال أمرًا صعبًا، فالتشكيك المباشر في المعتقدات قد يدفع المستخدم إلى الابتعاد، بينما قد يؤدي التأييد إليها إلى تفاقم المشكلة.
وتدعو الدراسة إلى إجراء مزيد من الاختبارات السريرية لأدوات الذكاء الاصطناعي بالتعاون مع متخصصي الصحة النفسية، في محاولة فهم كيف يمكن لهذه الأنظمة سريعة التطور أن تشكّل طريقة التفكير البشرية.
