تحذير من هجمات حقن الأوامر في متصفحات الذكاء الاصطناعي
تصفّح متصفحات الذكاء الاصطناعي عبر الإنترنت قد يواجه هجمات حقن الأوامر، وهي أساليب تستغل خداع النظام لينفّذ تعليمات خبيثة مخفية داخل محتوى الويب أو رسائل البريد الإلكتروني، ما يثير قلقًا حول أمان وكلاء الذكاء الاصطناعي أثناء التصفح المفتوح.
تشبه هذه الهجمات في خطورتها أساليب الاحتيال والهندسة الاجتماعية التقليدية، إذ تستغل ثقة الذكاء الاصطناعي في ما يعالجه من محتوى وتؤدي إلى أوامر غير مرغوبة بتنبيه المستخدم أو without علمه.
كيف تحاول OPENAI تحصين متصفحها؟
تعتمد الشركة على دفاعات متعددة الطبقات تشمل اختبارات مكثفة وتحديثات سريعة، كما طورت أداة ذكية تحاكي دور المخترق لاكتشاف أساليب الهجوم قبل استخدامها فعليًا.
في إحدى التجارب، تمكن المهاجم الآلي من تمرير رسالة بريد إلكتروني خبيثة ما أدى إلى تنفيذ أمر غير مقصود من قبل الوكيل الذكي، وبعد التحديثات الأمنية أصبح النظام قادرًا على اكتشاف محاولات الحقن وتنبيه المستخدم إليها.
رأي خبراء الأمن السيبراني
يرى الخبراء أن متصفحات الذكاء الاصطناعي تعمل في منطقة عالية الخطورة بسبب الجمع بين استقلالية النظام وإمكانية وصوله إلى بيانات حساسة مثل البريد والدفع.
ويؤكد بعضهم أن الفائدة الحالية لهذه المتصفحات لا تزال أقل من حجم المخاطر المصاحبة لها، وتوصي بتقليل الامتيازات الممنوحة للوكلاء وتحديد تعليماتهم بشكل واضح ومحدد، فكلما ازداد مدى الحرية زادت فرص تأثير المحتوى الخبيث في سلوك الذكاء الاصطناعي.
