تلاعب النماذج اللغوية وخطر إساءة استخدام الأوامر النصية
كشفت مايكروسوفت عن تقنيات معقدة يعتمدها القراصنة لخداع أنظمة الذكاء الاصطناعي عبر استغلال الأوامر النصية، ما يسمح بتجاوز بروتوكولات الأمان وتنفيذ أوامر خبيثة قد تسفر عن تسرب بيانات حساسة.
تشير هذه التطورات إلى وجود ثغرات بنيوية في نماذج الذكاء الاصطناعي التوليدي التي أصبحت جزءاً أساسياً من بيئات العمل المؤسسية.
التلاعب بالنماذج اللغوية
أكدت مايكروسوفت في مدونة أن عدداً من الهجمات نجحت في التلاعب بالنماذج اللغوية لاستخراج معلومات حساسة تخص العملاء، وتعمل الشركة حالياً على تطوير آليات دفاع فورية لتحليل الأوامر النصية ومنع أي محاولات تلاعب قبل وقوعها.
مخاطر الهندسة الاجتماعية الذكية
تستغل هذه الهجمات قدرة الذكاء الاصطناعي على فهم اللغة الطبيعية لتحويله إلى أداة اختراق داخلية، بدلاً من أن يكون مساعداً آمناً، ما يعكس حاجة الصناعة لبناء جدران حماية ذكية تقرأ نوايا المستخدم وتمنع الهجمات المعقدة لحظياً.
