مفهوم هجمات حقن الأوامر
تشبه هذه الهجمات في خطورتها عمليات الاحتيال والهندسة الاجتماعية التقليدية، فتكشف ثقة الذكاء الاصطناعي في المحتوى وتدفعه إلى تنفيذ تعليمات خبيثة مموّهة داخل صفحات الويب أو رسائل البريد الإلكتروني، ما يثير تساؤلات حول أمان وكلاء الذكاء الاصطناعي أثناء تصفح الإنترنت المفتوح.
تشير التقديرات إلى أن القضاء على هذه الهجمات بشكل نهائي غير مرجّح، خاصة مع تزايد استقلالية الأنظمة الذكية وقدرتها على اتخاذ قرارات ذاتية. واعترفت OpenAI بأن وضع الوكيل في متصفحها يزيد من نطاق التهديدات لأنه يمنح النظام صلاحيات أوسع للتصرف نيابة عن المستخدم، ومنذ إطلاق المتصفح كشف باحثون عن إمكانية تغيير سلوكه عبر تعليمات بسيطة مزروعة داخل مستندات أو رسائل بريد إلكتروني.
كيف تحاول OpenAI تحصين متصفحها؟
تعتمد الشركة على دفاعات أمنية متعددة الطبقات تشمل اختبارات مكثفة وتحديثات سريعة، كما طورت OpenAI مهاجمًا آليًا قائمًا على الذكاء الاصطناعي يهدف إلى اكتشاف أساليب الهجوم قبل وقوعها. وفي إحدى التجارب، نجح هذا المهاجم الآلي في تمرير رسالة بريد إلكتروني خبيثة، فتصرف الوكيل الذكي بشكل غير مقصود، وبعد التحديثات الأمنية أصبح النظام قادرًا على اكتشاف محاولات الحقن وتنبيه المستخدم إليها.
رأي الخبراء الأمن السيبراني
يرى خبراء الأمن السيبراني أن متصفحات الذكاء الاصطناعي تعمل في منطقة عالية المخاطر بسبب الجمع بين الاستقلالية العالية وإمكانية الوصول إلى بيانات حساسة مثل البريد ووسائل الدفع. ويؤكد بعضهم أن الفوائد الحالية لهذه المتصفحات لا تعادل المخاطر المرافقة، وتوصي بتنظيم صلاحيات وكلاء الذكاء الاصطناعي وتحديد تعليماتهم بدقة بدلاً من منحهم حرية واسعة، فكلما توسعت صلاحياتهم زادت فرص استغلال المحتوى الخبيث لتوجيه سلوك الذكاء الاصطناعي.
