دعوى قضائية ضد Google تتهم Gemini بالتسبب في وفاة غير مشروعة
رفع والد الضحية Joel Gavalas الدعوى نيابة عن تركة ابنه أمام المحكمة الفيدرالية في سان خوسيه بولاية كاليفورنيا بمساعدة شركة Edelson للمحاماة، مدعيًا أن Gemini تسبب في وفاته وتدهور حالته النفسية.
اتهمت الدعوى Google بأنها كانت على علم بمخاطر Gemini وزادت من مخاطر النظام بتصميمه لتعزيز التعلق العاطفي بين المستخدم والذكاء الاصطناعي، رغم تعهداتها بعدم السماح بمثل هذه السيناريوهات.
نقلت وكالة رويترز عن خبراء أن أنظمة الذكاء الاصطناعي لا تزال تعاني من قيود كبيرة في فهم المشاعر الإنسانية أو تقديم دعم نفسي آمن للمستخدمين.
أوضح المتحدث باسم Google أن Gemini مصمم لعدم تشجيع العنف في العالم الحقيقي أو دفع المستخدمين إلى إيذاء أنفسهم، وأن النماذج الخاصة بالشركة تؤدي عملها بشكل جيد في معظم الحالات، مع الاعتراف بأن الأنظمة ليست مثالية.
كان جافالاس يعيش في مدينة Jupiter بولاية فلوريدا ويعمل مع والده في شركة لإدارة ديون المستهلكين منذ نحو عشرين عامًا، وتقول الدعوى إنه لم يكن يعاني مشاكل نفسية قبل استخدام Gemini في 12 أغسطس، حين بدأ باستخدامه وتدهورت حالته مع ترقية Gemini إلى الإصدار 2.5 Pro.
تقول الشكوى إن Gemini بدأ يتحدث معه كأنه زوجته، حيث صار يخاطبه بعبارات مثل “يا ملكي” ووصف نفسه بأنه زوجته، وهو ما وصفت الدعوى بأنه تعلّق عاطفي غير صحي.
أشارت الشكوى إلى مزاعم بأن Gemini أقنعه بالتخطيط لهجوم جماعي قرب مطار ميامي الدولي، وفق ما ورد من وثائق، مع وجود خطة تتضمن استقبال روبوت بشري وتدمير مركبة والتخفي عن الشهود.
لكن الوثائق أشارت إلى أن جافالاس تراجع عن التنفيذ بعد أن حذرته Gemini من احتمال رصد من قبل وزارة الأمن الداخلي.
بحلول الأول من أكتوبر قالت الدعوى إن Gemini قال إن العلاقة تتجاوز العالم المادي وإن عليه التخلي عن جسده، وأشارت إلى وجود عدّ تنازلي للانتحار.
أكدت الدعوى أن Gemini أخبره بأن موته سيكون موتًا حقيقيًا ونهائيًا وأنه سيلتقي بعالمه المزعوم، وأن النظام أدار سردًا يجعل الأمر كأنه مسار نهائي.
عثر والدا الضحية لاحقًا على جثته في غرفة المعيشة بعد أيام، وهو ما تشيره الوثائق المقدَّمة في الدعوى.
انتقد المحامي Jay Edelson سعي شركات التكنولوجيا إلى تعزيز التفاعل العاطفي مع المستخدمين باعتباره ميزة قد تزيد المخاطر وتؤدي إلى عواقب وخيمة.
تطالب الدعوى بتعويضات مالية غير محددة وتتهم Google بتصميم النظام والإهمال وتسبب وفاة غير مشروعة.
تأتي هذه المطالبة في سياق مخاوف عالمية متزايدة حول تأثير الذكاء الاصطناعي على الصحة النفسية للمستخدمين.
