تواجه متصفحات الذكاء الاصطناعي، رغم التطور المستمر، مخاطر سيبرانية من نوع حقن الأوامر التي تعتمد على خداع أنظمة الذكاء الاصطناعي وتوجيهها لتنفيذ تعليمات خبيثة مخفية داخل رسائل البريد الإلكتروني أو مواقع الويب.
تشبه هذه الهجمات أساليب الاحتيال والهندسة الاجتماعية التقليدية، فهي تستغل ثقة النظام في المحتوى الذي يتعامل معه، وتُشير التقديرات إلى أن القضاء عليها نهائياً غير مرجّح مع ارتفاع استقلالية الأنظمة الذكية وقدرتها على اتخاذ قرارات ذاتية، كما اعترفت المؤسسات المطورة بأن وضع الوكيل في متصفح متقدم يزيد من نطاق التهديدات ويمنح النظام صلاحيات أوسع ليصرف نيابة عن المستخدم.
منذ إطلاق المتصفح، كشف باحثون عن إمكانية تغيير سلوك الوكيل عبر تعليمات بسيطة مزروعة داخل مستندات أو رسائل إلكترونية، وهو ما يؤكد وجود ثغرات يمكن استغلالها في بيئة التصفح المفتوح.
كيف تحرص OpenAI على تحصين المتصفح؟
اعتمدت الشركة دفاعات متعددة الطبقات تشمل اختبارات مكثفة وتحديثات سريعة، إضافة إلى تطوير مهاجم آلي قائم على الذكاء الاصطناعي ليؤدي دور المخترق بهدف كشف أساليب الهجوم الجديدة قبل استغلالها في الواقع. وفي إحدى التجارب، نجح هذا المهاجم الآلي في تمرير رسالة بريدية خبيثة فأدت إلى تنفيذ أمر غير مقصود من قبل الوكيل الذكي، ثم بات النظام قادرًا بعد التحديثات على اكتشاف محاولات الحقن والتنبيه إليها أمام المستخدم.
رأي خبراء الأمن السيبراني
يرى الخبراء أن متصفحات الذكاء الاصطناعي تعمل في منطقة عالية الخطورة نتيجة الجمع بين استقلالية عالية والوصول إلى بيانات حساسة مثل البريد ووسائل الدفع. ويرجّحون أن فائدة هذه المتصفحات تبقى أقل من حجم المخاطر المصاحبة، لذا يُوصى بتقليل الصلاحيات الممنوحة للوكلاء وتحديد تعليماتهم بدقة بدلاً من منحهم حرية واسعة في اتخاذ القرارات، فكلما اتسعت الحرية زادت فرص استغلال المحتوى الخبيث والتأثير على سلوك الذكاء الاصطناعي.
