أعلنت شركة OpenAI عن ميزتين أمنيتين جديدتين هما ملصقات المخاطر المرتفعة ووضع الإغلاق، وتهدف إلى توعية المستخدمين وتحسين التحكم في المعلومات وتقليل مخاطر حقن الأوامر.
ما هو تهديد “حقن الأوامر”؟
يُعد حقن الأوامر تقنية يستخدمها القراصنة لإخفاء تعليمات خبيثة داخل صفحات ويب أو ملفات، بهدف خداع نظام الذكاء الاصطناعي وجعله يكشف معلومات سرية أو ينفذ إجراءات غير مقصودة. ومع ازدياد استخدام ملايين الأشخاص لروبوتات الدردشة في قراءة المستندات وتصفح الإنترنت وربط الحسابات بتطبيقات أخرى، تصبح مخاطر هذه الحيلة أكثر خطورة وتأثيراً. جاءت الأدوات الجديدة في ChatGPT لحماية المستخدمين من هذه التهديدات.
ما هو وضع الإغلاق (LOCKDOWN MODE) في CHATGPT؟
قدمت OpenAI وضع الإغلاق كخيار اختياري يقيد طريقة تفاعل ChatGPT مع الأنظمة الخارجية بشكل صارم. عند تفعيله، يتم تقليل بعض الأدوات والاتصالات أو تعطيلها، مثل التصفح المباشر للويب والتكاملات التي ترسل وتستقبل معلومات من خدمات خارجية. من خلال تقليل هذه التفاعلات الخارجية، تسعى OpenAI إلى تقليل ما يعرف بسطح الهجوم الذي يمكن للقراصنة استغلاله. الوضع ليس ضرورياً لمعظم المستخدمين في الاستخدام اليومي، وهو مخصص أساساً لمن يتعاملون مع معلومات حساسة أو معرضين لخطر أعلى مثل الصحفيين والتنفيذيين والباحثين وخبراء الأمن السيبراني.
ما هي ملصقات المخاطر المرتفعة (ELEVATED RISK LABELS) في CHATGPT؟
إلى جانب وضع الإغلاق، تقدم OpenAI ملصقات المخاطر المرتفعة داخل ChatGPT. ستظهر هذه الملصقات بجانب الأدوات أو الميزات التي تكون مرتبطة بمحتوى أو أنظمة خارجية، فمثلاً إذا كانت إحدى الميزات تتصل بمحتوى خارجي أو تمنح وصولاً أوسع إلى النظام، سيعرض ChatGPT تنبيهاً واضحاً بشأن المخاطر المحتملة. يساعد ذلك المستخدمين على اتخاذ قرار مستنير بشأن المتابعة أو الحفاظ على مستوى خصوصية أعلى.
لماذا تحتاج هذه الميزات؟
تشير OpenAI إلى أن العديد من أقوى أدوات ChatGPT تعتمد على اتصالات خارجية مثل تصفح الإنترنت وتحليل الملفات والتفاعل مع تطبيقات الطرف الثالث. هذه القدرات تزيد من فائدة الذكاء الاصطناعي لكنها قد تفتح ثغرات أمنية إذا أسيء استخدامها. من خلال توفير تحذيرات أوضح وتحكم أقوى، تهدف الشركة إلى تقليل هذه المخاطر دون التأثير على تجربة الاستخدام لمعظم المستخدمين.
تعكس هذه الخطوات إدراكاً متزايداً لحساسية البيانات التي يتعامل معها الذكاء الاصطناعي، وتؤكد أن الأمان في عصر الذكاء الاصطناعي ليس خياراً ثانوياً بل ضرورة أساسية.
