أعلنت OpenAI عن ميزتين أمنيتين جديدتين: ملصقات المخاطر المرتفعة ووضع الإغلاق، بهدف توفير تنبيهات أوضح وتحكم أقوى في البيانات المتداخلة مع الأنظمة الخارجية.
تظهر الملصقات بجانب الأدوات التي تتضمن تعرضاً عالياً لمصادر خارجية، وتقدم تحذيراً صريحاً للمخاطر للمساعدة في اتخاذ القرار المناسب بشأن الاستمرار أو الحفاظ على مستوى الخصوصية.
يقيِّد وضع الإغلاق طريقة تفاعل ChatGPT مع الأنظمة الخارجية بشكل صارم، ويقلل بعض الأدوات والاتصالات أو يعطلها، مثل التصفح المباشر للويب وعمليات التكامل التي ترسل وتستقبل معلومات من خدمات خارجية، بهدف تقليل سطح الهجوم.
تؤكد OpenAI أن هذه التدابير تستهدف تقليل مخاطر ما يعرف بحقن الأوامر مع توفير تحكم أقوى وتحذيرات أكثر وضوحاً للمستخدمين والمؤسسات.
ما هو تهديد “حقن الأوامر”؟
يُعد حقن الأوامر تقنية يستخدمها القراصنة لإخفاء تعليمات خبيثة داخل صفحات ويب أو ملفات بهدف خداع النظام وجعله يكشف معلومات سرية أو ينفّذ إجراءات غير مقصودة. ومع انتشار استخدام روبوتات المحادثة مثل ChatGPT في قراءة المستندات وتصفح الإنترنت وربط الحسابات بتطبيقات أخرى، تصبح مخاطر هذه الحيلة أوسع وأعمق.
وضع الإغلاق (LOCKDOWN MODE) في ChatGPT
قدّمت OpenAI وضع الإغلاق كخيار اختياري يقيِّد كيفية تفاعل ChatGPT مع الأنظمة الخارجية بشكل صارم، حيث يُحد من التصفح المباشر للويب والتكاملات التي ترسل وتستقبل معلومات من خدمات خارجية، وذلك للحد من ما يُعرف بسطح الهجوم.
ملصقات المخاطر المرتفعة
إلى جانب وضع الإغلاق، ستظهر ملصقات بجانب الأدوات التي تتضمن درجة أعلى من التعرض لمحتوى خارجي أو وصول أوسع للنظام. عندما تكون ميزة ما مرتبطة بمصدر خارجي واضح، يعرض ChatGPT تنبيهاً بمخاطرها المحتملة للمستخدم لاتخاذ القرار المناسب بشأن المتابعة أو الحفاظ على الخصوصية.
لماذا تحتاج هذه الميزات؟
تشير الشركة إلى أن أقوى أدوات ChatGPT تعتمد على اتصالات خارجية مثل تصفّح الإنترنت وتحليل الملفات والتفاعل مع تطبيقات الطرف الثالث، وهو ما يجعل الذكاء الاصطناعي أكثر فائدة ولكنه يفتح ثغرات أمنية. ومن خلال تحذيرات أوضح وضوابط أكثر صرامة، تهدف الشركة إلى تقليل المخاطر دون التأثير على تجربة الاستخدام لمعظم المستخدمين.
تعكس هذه الخطوات إدراكاً متزايداً لحساسية البيانات في عصر الذكاء الاصطناعي، وتؤكد أن الأمن ليس خياراً ثانوياً بل ضرورة أساسية في الاعتماد المتزايد على هذه التقنيات.
