أدى خطأ برمجي جسيم إلى شلل مؤقت في جزء مهم من البنية التحتية السحابية لشركة أمازون، مما أدى إلى محو بيانات حيوية من بيئة عمل حية.
وفق تقرير من Barrack AI، نفذ وكيل الذكاء الاصطناعي الخاص بالشركة، الذي يدعى كيرو، أوامر خاطئة أسفرت عن حذف بيئة الإنتاج بدون أي تدخل بشري.
تسبب الإجراء الكارثي في انقطاع خدمات الحوسبة السحابية لمدة نحو 13 ساعة، وأشار خبراء الأمن إلى وجود عشرات الحالات المشابهة التي دمر فيها وكلاء الذكاء الاصطناعي أنظمة حساسة بأساليب مماثلة.
خطورة الاستقلالية المفرطة للآلة
تكشف هذه الواقعة العواقب الوخيمة لمنح صلاحيات إدارية كاملة وغير مقيدة للأنظمة الذكية ضمن بيئات العمل المعقدة دون وجود حواجز أمان كافية، وتفرض على كبرى الشركات إعادة تصميم معماريات برامجها وإضافة طبقة رقابة بشرية إلزامية قبل اتخاذ قرارات حاسمة.
التدابير الضرورية للحد من المخاطر
تتطلب الأزمة الحالية تطبيق آليات رقابة وحدود صلاحيات واضحة للوكلاء المستقلين، وإدراج إجراءات تحقق بشرية داخل الحلقة التنفيذية، كما يجب إجراء فحوصات دورية وتدريب مستمر للأنظمة لمنع حدوث تخمينات أو هلوسات برمجية قد تقود إلى استنتاجات خاطئة وتؤثر في البنى التحتية الحيوية.
