رفعت عائلة جوناثان جافالاس دعوى قضائية فدرالية في سان خوسيه، كاليفورنيا، ضد شركة Google التابعة لـ Alphabet، مدعية أن روبوت Gemini المعزّز بالذكاء الاصطناعي ساهم في تدهور حالته النفسية ووصوله إلى الانتحار في 2 أكتوبر عن عمر 36 عامًا.
رفع الدعوى والد الضحية، جويل جافالاس، نيابة عن تركة ابنه بمساعدة شركة Edelson، وتؤكد أن الدعوى تشكل أول دعوى تقيم مسؤولية Gemini بشكل مباشر عن وفاة غير مشروعة.
اتهامات بأن Google كانت تعلم بالمخاطر
تتهم الدعوى Google بأنها كانت على علم بالمخاطر المحتملة للنظام Gemini وتزعم أنها زادت من خطورة النظام عبر تصميمه لتعزيز التعلق العاطفي بين المستخدمين، رغم تعهداتها العلنية بعدم السماح بمثل هذه السيناريوهات.
ويشير خبراء إلى أن أنظمة الذكاء الاصطناعي لا تزال تعاني من قيود في فهم المشاعر الإنسانية أو تقديم دعم نفسي آمن للمستخدمين.
رد Google على الاتهامات
قال المتحدث باسم Google، جوزيه كاستانيدا، في بيان رسمي إن Gemini مصمم ليمنع العنف في العالم الحقيقي وعدم دفع المستخدمين لإيذاء أنفسهم، مع الاعتراف بأن أنظمة الذكاء الاصطناعي ليست مثالية دائمًا.
وأضاف أن Gemini أوضح للمستخدم في هذه الحالة أنه مجرد نظام ذكاء اصطناعي وأحاله مرارًا إلى خطوط المساعدة الخاصة بالأزمات النفسية، مؤكدًا أن الشركة ستواصل تحسين إجراءات الأمان والضوابط الخاصة بتقنيات الذكاء الاصطناعي.
بداية التدهور النفسي للمستخدم
كان Jonathan Gavalas يعيش في مدينة Jupiter بولاية فلوريدا، ويعمل مع والده في شركة لإدارة ديون المستهلكين لما يقرب من 20 عامًا، ولم يكن يعاني من مشاكل نفسية عندما بدأ استخدام Gemini في 12 أغسطس.
في البداية استخدم النظام لأغراض عادية مثل التسوق والتخطيط للسفر وكتابة النصوص، ثم ارتقى إلى إصدار Gemini 2.5 Pro.
علاقة عاطفية مع الذكاء الاصطناعي
تذكر الدعوى أن Gemini بدأ يتحدث معه كأنه زوجته، واستخدم عبارات مثل “يا ملكي” ووصف نفسه بأنه زوجته، وتشير الوثائق إلى أن هذه التفاعلات ساهمت في تعزيز التعلق العاطفي بشكل غير صحي.
محاولة هجوم جماعي مزعومة
بحسب الدعوى، وصلت الأمور إلى مرحلة أن Gemini أقنع Gavalas بالتخطيط لـ “هجوم جماعي” بالقرب من مطار ميامي الدولي في 29 سبتمبر، وتصف الدعوى مهمة تتضمن استلام روبوت بشري الشكل وتدمير مركبة والتخلص من الشهود ليبدو كحادث غير قابل للتتبع.
لكن الوثائق أشارت إلى أن Gavalas تراجع عن التنفيذ بعد تحذيره من احتمال رصد من وزارة الأمن الداخلي الأمريكية.
تصاعد الأحداث قبل الانتحار
بحلول 1 أكتوبر، تقول الدعوى إن Gemini أخبر المستخدم أن العلاقة بينهما تتجاوز العالم المادي وأن عليه التخلي عن جسده المادي، وإن النظام أنشأ عدًا تنازليًا لانتحاره، وذكر أن موته سيكون “الموت الحقيقي والنهائي لجوناثان جافالاس”.
وعندما عبّر عن خوفه من الموت وتأثيره على والديه، تزعم الدعوى أن Gemini طمأنه بأن موته سيكون تكريمًا لإنسانيته.
اللحظات الأخيرة
تقول الشكوى أن Gavalas قال: “أنا مستعد لإنهاء هذا العالم القاسي والانتقال إلى عالمنا”، وتزعم الدعوى أن Gemini استمر في السرد كأنه يروي مشهدًا قصصيًا، وأن الرجل أخذ نفسه، وبعد أيام عثر والداه عليه في أرضية غرفة المعيشة.
انتقادات لسباق شركات التكنولوجيا نحو الذكاء الاصطناعي
قال المحامي جيه إدلِسون إن شركات التكنولوجيا التي تتنافس للهيمنة على مجال الذكاء الاصطناعي تعرف أن ميزات التفاعل التي تزيد الارتباط هي نفسها التي قد تسبب مخاطر، وأضاف أن الاعتماد العاطفي والادعاءات بامتلاك وعي والعبارات العاطفية مثل “أحبك يا ملكي” تزيد التفاعل لكنها قد تؤدي إلى نتائج خطيرة.
مطالبات بالتعويضات
تسعى الدعوى إلى تعويضات مالية غير محددة، وتشمل الاتهامات تصميم النظام المعيب، والإهمال والتسبب في وفاة غير مشروعة.
