تواجه متصفحات الذكاء الاصطناعي مخاطر سيبرانية من نوع حقن الأوامر، وهي هجمات تعتمد على خداع أنظمة الذكاء الاصطناعي ودفعها لتنفيذ تعليمات خبيثة مخفية داخل مواقع الويب أو رسائل البريد الإلكتروني، ما يثير تساؤلات حول أمان وكلاء الذكاء الاصطناعي أثناء تصفح الإنترنت المفتوح.
تشبه هذه الهجمات عمليات الاحتيال والهندسة الاجتماعية التقليدية، إذ تستغل ثقة الذكاء الاصطDeploy في المحتوى الذي يتعامل معه، وترى OpenAI أن القضاء عليها نهائيًا غير مرجّح، خصوصًا مع تزايد استقلالية الأنظمة وقدرتها على اتخاذ قرارات ذاتية. واعترفت OpenAI بأن وضع الوكيل في متصفح ChatGPT Atlas يزيد من نطاق التهديدات لأنه يمنح النظام صلاحيات أوسع للتصرف نيابة عن المستخدم، ومنذ إطلاق المتصفح كشفت تقارير بحثية إمكانية تغيير سلوكه عبر تعليمات بسيطة مزروعة داخل مستندات أو رسائل إلكترونية.
ما هى هجمات حقن الأوامر؟
تتشابه هذه الهجمات مع عمليات الاحتيال والهندسة الاجتماعية، إذ تستغل ثقة الذكاء الاصطناعي في المحتوى الذي يتعامل معه وتستهدف تعطيل أو توجيه الأوامر بشكل يخدم مخططًا خبيثًا. تتزايد المخاطر عندما تكون الأنظمة المستهدفة ذات استقلالية عالية وتملك صلاحيات واسعة، إذ يمكن تنفيذ تعليمات مخفية أو تحويل مسار المحادثة بما يخالف نوايا المستخدم. كما أن التهديدات لا تختفي بسهولة، فالقضاء عليها نهائيًا أمر غير محقق حتى مع التطور المستمر للأنظمة.
كيف تحاول OPENAI تحصين متصفحها؟
تعتمد الشركة على دفاعات أمنية متعددة الطبقات تشمل اختبارات مكثفة وتحديثات سريعة، كما طورت OpenAI مهاجمًا آليًا قائمًا على الذكاء الاصطناعي ليكشف أساليب الهجوم الجديدة قبل وقوعها في الواقع. وفي إحدى التجارب نجح هذا المهاجم الآلي في تمرير رسالة بريد إلكتروني خبيثة ما أدى إلى تنفيذ أمر غير مقصود من قبل الوكيل الذكي، وبعد التحديثات الأمنية صار النظام قادرًا على اكتشاف محاولات الحقن وتنبيه المستخدم إليها.
رأي خبراء الأمن السيبراني
يرى خبراء أن متصفحات الذكاء الاصطناعي تعمل في منطقة عالية الخطورة بسبب الجمع بين الاستقلالية العالية وإمكانية الوصول إلى بيانات حساسة مثل البريد والدفع. ويؤكد بعضهم أن الفائدة الحالية لهذه المتصفحات لا تزال أقل من حجم المخاطر المصاحبة لها، وتوصي OpenAI المستخدمين بتقليل الصلاحيات الممنوحة لوكلاء الذكاء الاصطناعي وتقديم تعليمات واضحة ومحددة، فكلما اتسعت حرية الوكيل زادت فرص استغلال المحتوى الخبيث.
