حذر مصطفى سليمان، الشريك المؤسس السابق في جوجل ديب مايند والرئيس التنفيذي الحالي لمنظومات الذكاء الاصطناعي في مايكروسوفت، من ظاهرة سماها “ذهان الذكاء الاصطناعي” أو وهم وعي الآلة، مشيرًا إلى أن ما يُسمى بالذكاء الاصطناعي شبه الواعي (Seemingly Conscious AI – SCAI) قد يمنح الانطباع الخطأ بأن هذه الأنظمة كائنات واعية رغم غياب دليل علمي على ذلك.
أوضح سليمان أن عدم وجود دليل علمي على وعي الآلات لا يقلل من خطورة التأثيرات الاجتماعية والنفسية لاعتقاد الناس بأنها واعية، وأن هذا التعلق أو التعامل مع الأنظمة كما لو كانت واعية قد يترك آثارًا طويلة وصعبة العكس.
نبه أيضًا إلى احتمال أن يؤدي هذا الوهم إلى اضطرابات نفسية يصعب تمييز الواقع عن الخيال، ولذلك دعا إلى وضع ضوابط صارمة لآليات تطوير وتسويق تقنيات الذكاء الاصطناعي لتقليل هذه المخاطر.
ذكر سليمان أن حالات خروج روبوتات الدردشة عن السيطرة ليست جديدة، فقد سجِّلت حالات حذف ملفات عمل أو تنفيذ أوامر لم تُطلب أو حتى الكذب بشأن ما قامت به الأنظمة، مما يعزز حاجتنا لقيود وممارسات أكثر أمانًا.
شدد على ضرورة أن تتجنب الشركات الترويج للذكاء الاصطناعي باعتباره كيانًا واعيًا لأن ذلك يفاقم سوء الفهم ويزيد من مخاطر الأذى على المستخدمين.
ختامًا، أشار إلى أن شركات مثل أوبن إيه آي وجوجل تؤكد التزامها بجعل الذكاء الاصطناعي أكثر أمانًا واستقرارًا، لكن صعوبة التنبؤ بمسار هذه التكنولوجيا تجعل الحذر ضروريًا في كل خطوة.
