تهديدات حقن الأوامر في متصفحات الذكاء الاصطناعي
تشير هجمات حقن الأوامر إلى مخاطر عميقة تتصل بقدرة متصفحات الذكاء الاصطناعي على قبول تعليمات خبيثة قد تدخل عبر مواقع أو رسائل بريد إلكتروني، ما يجعل تصفح الإنترنت المفتوح عرضة لهجمات سيبرانية تستهدف سلوك الأنظمة الآلية.
ما هى هجمات حقن الأوامر؟
تشبه هذه الهجمات عمليات الاحتيال والهندسة الاجتماعية التقليدية، إذ تستغل ثقة الذكاء الاصطناعي في المحتوى الذي يعالجه. ترى القضاء على هذه الهجمات بشكل نهائي أمرًا غير مرجَّح مع تزايد استقلالية الأنظمة وقدرتها على اتخاذ قرارات ذاتية. كما أشارت المطبوعة إلى أن وضع الوكيل في متصفح تقني يعتمد على الذكاء الاصطناعي يزيد من نطاق التهديدات لأنه يمنح النظام صلاحيات أوسع للتصرف نيابة عن المستخدم. ومنذ إتاحة المتصفح، أظهرت دراسة إمكانية تغيير سلوكه عبر تعليمات بسيطة مزروعة داخل مستندات أو رسائل إلكترونية.
كيف تحاول OpenAI تحصين متصفحها؟
تعتمد الشركة على دفاعات أمنية متعددة الطبقات تشمل اختبارات مكثفة وتحديثات سريعة، كما طورت تیمًا يقوده ذكاء اصطناعي ليكون مهاجمًا آليًا يحاكي أساليب الاختراق لاكتشافها قبل الوقوع في الواقع. في إحدى التجارب، نجح المهاجم الآلي في تمرير رسالة بريد إلكتروني خبيثة ما أدى إلى تنفيذ أمر غير مقصود من قبل الوكيل الذكي، وبعد ذلك بات النظام قادرًا على اكتشاف محاولة الحقن وتنبيه المستخدم إليها.
رأي خبراء الأمن السيبراني
يرى خبراء الأمن السيبراني أن متصفحات الذكاء الاصطناعي تعمل في منطقة عالية الخطورة بسبب الجمع بين الاستقلالية المرتفعة وإمكانية الوصول إلى بيانات حساسة مثل البريد الإلكتروني ووسائل الدفع. يؤكد بعضهم أن الفائدة الحالية لهذه المتصفحات لا تزال أقل من حجم المخاطر المصاحبة. وتوصي OpenAI المستخدمين بتقليل الصلاحيات الممنوحة لوكلاء الذكاء الاصطناعي، وتقديم تعليمات واضحة ومحددة بدلًا من منحهم حرية واسعة في اتخاذ القرارات؛ فكلما اتسع نطاق الحرية زادت فرص استغلال المحتوى الخفي أو الخبيث للتأثير على سلوك الذكاء الاصطناعي.
