هجمات حقن الأوامر في متصفحات الذكاء الاصطناعي
تشير تقارير إلى أن متصفحات الذكاء الاصطناعي رغم تطويرها المستمر قد تظل عرضة لهجمات سيبرانية من نوع حقن الأوامر، وهي محاولات تعتمد على خداع أنظمة الذكاء الاصطناعي ودفعها لتنفيذ تعليمات خبيثة مخفية في مواقع الويب أو رسائل البريد الإلكتروني، مما يثير أسئلة حول أمان وكلاء الذكاء الاصطناعي أثناء تصفح الإنترنت المفتوح.
تشبه هذه الهجمات في خطورتها عمليات الاحتيال والهندسة الاجتماعية التقليدية، إذ تستغل ثقة الذكاء الاصطناعي في المحتوى الذي يتعامل معه. تقول OpenAI أن القضاء عليها نهائيًا غير مرجّح، خصوصًا مع تزايد استقلالية الأنظمة الذكية وقدرتها على اتخاذ قرارات ذاتية. اعترفت OpenAI بأن وضع الوكيل في متصفح قد يزيد من نطاق التهديدات الأمنية، لأنه يمنح النظام صلاحيات أوسع للتصرف نيابة عن المستخدم.
كشف الباحثون الأمنيون إمكانية تغيير سلوكه عبر تعليمات بسيطة مزروعة داخل مستندات أو رسائل إلكترونية منذ إطلاق المتصفح.
كيف تحاول OPENAI تحصين متصفحها؟
يعتمد دفاعها على دفاعات متعددة الطبقات تشمل اختبارات مكثفة وتحديثات سريعة.
طورت OpenAI مهاجمًا آليًا قائمًا على الذكاء الاصطناعي يؤدي دور المخترق بهدف اكتشاف أساليب الهجوم الجديدة قبل استغلالها في الواقع.
نجح هذا المهاجم الآلي في تمرير رسالة بريد إلكتروني خبيثة ما أدى إلى تنفيذ أمر غير مقصود من قبل الوكيل الذكي.
بعد التحديثات الأمنية، أصبح النظام قادرًا على اكتشاف محاولات الحقن وتنبيه المستخدم إليها.
رأي خبراء الأمن السيبراني
يرى الخبراء أن متصفحات الذكاء الاصطناعي تعمل في منطقة عالية الخطورة بسبب الجمع بين استقلاليتها العالية وإمكانية الوصول إلى بيانات حساسة مثل البريد الإلكتروني ووسائل الدفع.
يؤكد بعضهم أن الفائدة الحالية لهذه المتصفحات لا تزال أقل من حجم المخاطر المصاحبة لها.
ينصح الخبراء المستخدمين بتقليل الصلاحيات الممنوحة لوكلاء الذكاء الاصطناعي وتقديم تعليمات واضحة ومحددة بدلًا من منحهم حرية واسعة؛ فكلما اتسع نطاق الحرية زادت فرص استغلال المحتوى الخفي أو الخبيث.
