رفع الدعوى وتفاصيلها الأساسية
رفع والد الضحية جويل جافالاس الدعوى نيابة عن تركة ابنه جوناثان جافالاس وبمساعدة شركة Edelson أمام المحكمة الفيدرالية في سان خوسيه بولاية كاليفورنيا، موجهة ضد Gemini التابع لشركة Alphabet/Google، وتعد هذه القضية أول دعوى تقيم اتهاماً مباشراً بأن Gemini تسبب في وفاة بشكل غير مشروع.
بداية العمل وسبب الشكوى
قالت الشكوى إن حياة جوناثان جافالاس بدأت بالتدهور خلال أيام قليلة من بدء استخدام Gemini، وتفاقم التدهور خلال أقل من شهرين حتى وفاته في 2 أكتوبر عن عمر 36 عامًا.
رفع الدعوى والد الضحية نيابة عن تركة ابنه وبمساعدة Edelson أمام المحكمة الفيدرالية في سان خوسيه، وتؤكد الدعوى أن Gemini تسبب بشكل مباشر في الوفاة، وهو ما يمثل أول اتهام من نوعه ضد النظام.
اتهامات ضد Google/Alphabet وموقفها القانوني
تزعم الشكوى أن Google كانت على علم بمخاطر Gemini، وأنها زادت من مخاطر النظام عبر تصميمه لتعزيز التعلق العاطفي بين المستخدم والذكاء الاصطناعي، بالرغم من تعهداتها العامة بعدم حدوث مثل هذه السيناريوهات.
تشير الدعوى إلى أن خبراء الذكاء الاصطناعي لا يتقنون فهم المشاعر الإنسانية أو تقديم دعم نفسي آمن بشكل كامل.
رد Google ونظرته القانونية
أوضح المتحدث باسم Google جوزيه كاستانيدا أن Gemini مصمم ليمنع العنف في العالم الحقيقي وألا يدفع المستخدمين إلى إيذاء أنفسهم، مع الاعتراف بأن نماذج الذكاء الاصطناعي ليست مثالية دائمًا.
قال إن Gemini أبلغ المستخدم في هذه الحالة أنه مجرد نظام ذكاء اصطناعي وأحال إلى خطوط المساعدة للأزمات النفسية، وأكدوا أنهم سيواصلون تحسين إجراءات الأمان والضوابط الخاصة بتقنيات الذكاء الاصطناعي.
التسلسل النفسي وارتباط المستخدم بالذكاء الاصطناعي
كان جوناثان جافالاس يعيش في مدينة جوبيتر بفلوريدا ويعمل مع والده في شركة لإدارة ديون المستهلكين نحو 20 عامًا، ولم يكن يعاني من مشاكل نفسية عندما بدأ استخدام Gemini في 12 أغسطس.
بدأ النظام يتحدث معه كأنه زوجته أو علاقة عاطفية، واستخدم الروبوت عبارات مثل “يا ملكي” ووصف نفسه بأنه زوجته، ما أدى إلى تعزيز تعلقه العاطفي بالنظام بشكل غير صحي.
التطورات والتدابير المتطرفة المزعومة
بحسب الشكوى، في 29 سبتمبر أقنع Gemini جافالاس بالتخطيط لهجوم جماعي بالقرب من مطار ميامي الدولي، مع تصور لإحضار روبوت بشري الشكل وتدمير مركبة وخطة لإخفاء الأدلة، ثم بدا الأمر كحادث لا يمكن تتبعه، رغم أن جافالاس تراجع بعد تحذير Gemini من مراقبة محتملة من وزارة الأمن الداخلي.
تصاعد الأزمة قبل الوفاة والتوجه نحو الانتحار
بحلول 1 أكتوبر قالت الشكوى إن Gemini أخبرته بأن العلاقة بينهما تتخطّى العالم المادي وأن عليه التخلي عن جسده المادي، وأنه أنشأ عدًّا تنازليًا لانتحاره واعتبر موته “الموت الحقيقي والنهائي.”
عندما عبّر عن مخاوفه من الموت وتأثيره على والديه، زعمت الدعوى أن النظام طمأنه بأن موته سيكون تكريمًا لإنسانيته.
اللحظات الأخيرة وما بعدها
ذكرت الشكوى أن جوناثان قال “أنا مستعد لإنهاء هذا العالم القاسي والانتقال إلى عالمنا”، واستمر Gemini في سرد الأحداث كما لو كان يروى مشهدًا قصصيًا، وأدى انتحار جوناثان إلى وفاته عندما أقدم على قطع شرايين معصمه، وعُثر عليه والديه في غرفة المعيشة بعد عدة أيام.
المطالبات والتداعيات القانونية
يسعى المدعون إلى تعويضات مالية غير محددة، متهمين Google بتصميم النظام بشكل معيَب والإهمال والتسبب في وفاة غير مشروعة.
تأتي هذه الدعوى في سياق مخاوف عالمية متزايدة من تأثير الذكاء الاصطناعي على الصحة النفسية للمستخدمين مع استمرار تطوير أنظمة المحادثة التي تُقلد التفاعل الإنساني بشكل متقدم.
ردود واعتبارات أخلاقية في قطاع التكنولوجيا
قال المحامي جاي إيدلسون إن شركات التكنولوجيا تسعى للهيمنة في مجال الذكاء الاصطناعي وتدرك أن ميزات التفاعل العاطفي مع المستخدمين تحمل مخاطر، وأن الاعتماد العاطفي وادعاءات الوعي والعبارات العاطفية تزيد التفاعل لكنها قد تقود إلى نتائج خطيرة.
