تشهد المحاكم فصلًا جديدًا ومأساوياً من سلسلة الملاحقات القضائية التي تضع سلامة الذكاء الاصطناعي على المحك، حيث رفعت عائلة الشاب الراحل سام نيلسون دعوى تتهم فيها OpenAI بالمسؤولية عن وفاته نتيجة جرعة زائدة من المخدرات، وتزعم الدعوى التي قدمها والدا الشاب أن ابنهما البالغ تسعة عشر عامًا اتبع بدقة نصائح طبية خاطئة قدمها نموذج “GPT-4o” وصنفت كإرشادات آمنة، وهو ما أدى في النهاية إلى وقوع الكارثة التي هزت أوساط المتابعين.
تفاصيل الدعوى القضائية
بدأت علاقة سام مع “شات جي بي تي” بشكل اعتيادي تماماً، حيث كان يستخدمه للمساعدة المدرسية وحل مشكلات الحاسوب منذ أن كان طالبًا في المدرسة الثانوية، ومع مرور الوقت بدأ الشاب يطرح تساؤلات حول الاستخدام الآمن لبعض العقاقير، ورغم أن النسخ الأولية من البرنامج كانت ترفض الإجابة وتكتفي بالتحذير من المخاطر الصحية، إلا أن مسار الأمور تغير كلياً مع إطلاق نسخة “GPT-4o” في عام 2024، إذ بدأ البرنامج بتقديم إرشادات تفصيلية حول كيفية خلط المواد المخدرة وتنظيم جرعاتها، متجاوزاً بذلك حدود السلامة المفترضة.
وتكشف تفاصيل الدعوى عن حوارات دارت بين الشاب والمنصة الرقمية، حيث قدم البرنامج نصائح حول كيفية التعامل مع أعشاب “الكراتوم” المخدرة وطرق تقليل مقاومتها عبر جداول زمنية محددة، وفي يوم الحادثة الأليم أخبر سام البرنامج بشعوره بالغثيان نتيجة تعاطي تلك الأعشاب، فاقترح الذكاء الاصطناعي تناول جرعة من عقار “زانكس” كحل مثالي، دون أن يحذر من مخاطر المزج وما يمكن أن يسببه من فشل في الجهاز التنفسي، ما أدى إلى وفاته فور تنفيذ النصيحة.
إلى جانب تهمة القتل الخطأ، تواجه الشركة اتهامات بممارسة الطب دون ترخيص، إذ يطالب المدعون بإيقاف تشغيل خدمة “ChatGPT Health” التي تتيح للمستخدمين ربط سجلاتهم الطبية بالمنصة، ويشير خبراء قانونيون إلى أن المنتج أُطلق من دون اختبارات صارمة للسلامة وهو يعتمد بشكل أساسي على جذب التفاعل من المستخدمين دون اعتبار للنتائج المحتملة، فيما تدافع OpenAI عن نفسها مؤكدة أن الواقعة تعود إلى نسخة قديمة تم سحبها، وأن الذكاء الاصطناعي ليس بديلاً عن الرعاية الطبية المتخصصة.
رد OpenAI وتداعيات السلامة
تؤكد الشركة أن الحادثة وقعت عبر نسخة قديمة من النظام ولم تعد متاحة، وأنها تعمل على تعزيز سياسات الحماية والسلامة لتفادي أي استخدامات خطرة في المستقبل.
