تزداد أهمية حماية بيانات المستخدم مع الاعتماد على روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل ChatGPT في المهام المهنية والشخصية، حيث قد يشارك المستخدمون معلومات حساسة أثناء القراءة والتصفح وربط الحسابات بتطبيقات خارجية، وتزداد بذلك مخاطر التسريبات والهجمات.
أعلنت OpenAI عن ميزتين أمنيتين جديدتين هما ملصقات المخاطر المرتفعة ووضع الإغلاق، وتعمل الملصقات على تحذير المستخدمين عندما تتضمن خدمة ما اتصالاً خارجياً قد يكشف معلومات إضافية، بينما يقيد وضع الإغلاق كيفية اتصال ChatGPT بالأنظمة الخارجية.
وتهدف هذه التدابير إلى توفير إشعارات أوضح وتحكماً أكبر في المعلومات، إضافة إلى تقليل مخاطر ما يعرف بحقن الأوامر.
ما هو تهديد “حقن الأوامر”؟
يُعد حقن الأوامر تقنية تستخدمها القراصنة لإخفاء تعليمات خبيثة داخل صفحات ويب أو ملفات، بغرض خداع نظام الذكاء الاصطناعي وجعله يكشف معلومات سرية أو ينفذ إجراءات غير مقصودة، ومع انتشار استخدام روبوتات الدردشة في قراءة المستندات والتصفح وربط الحسابات مع تطبيقات خارجية، تصبح مخاطر هذه الحيلة أكبر.
وضع الإغلاق (LOCKDOWN MODE) في CHATGPT
قدمت OpenAI وضع الإغلاق كخيار اختياري يقيد تفاعل ChatGPT مع الأنظمة الخارجية بشكل صارم، وعند تفعيله يتم الحد من التصفح المباشر للويب والتكامل مع خدمات خارجية، مما يقلل ما يمكن للقراصنة استغلاله.
ليس ضرورياً لمعظم المستخدمين في الاستخدام اليومي، وهو مخصص لمن يتعاملون مع معلومات حساسة أو قد يكونون عرضة لمخاطر مرتفعة مثل الصحفيين والتنفيذيين والباحثين وخبراء الأمن السيبراني.
ملصقات المخاطر المرتفعة (ELEVATED RISK LABELS)
إلى جانب وضع الإغلاق، تعرض ملصقات المخاطر المرتفعة بجانب الأدوات التي تتطلب اتصالات خارجية أو تمنح وصولاً أوسع إلى النظام، لتوفير تنبيه واضح بالمخاطر المحتملة وتساعد المستخدمين على اتخاذ القرار المناسب بشأن المتابعة أو الحفاظ على مستوى الخصوصية.
لماذا تحتاج هذه الميزات؟
توضح OpenAI أن أقوى أدوات ChatGPT تعتمد على اتصالات خارجية مثل التصفح وتحليل الملفات والتفاعل مع تطبيقات الطرف الثالث، وتزيد هذه القدرات من الفائدة لكنها قد تفتح ثغرات أمنية إذا أسيء استخدامها.
من خلال توفير تحذيرات أوضح وتحكماً أقوى، تهدف الشركة إلى تقليل المخاطر دون التأثير على تجربة المستخدم، وتعكس هذه الخطوات وعيًا متزايدًا بحساسية البيانات في عصر الذكاء الاصطناعي، حيث لم يعد الأمان خياراً ثانوياً بل ضرورة أساسية.
