أعلنت OpenAI عن إضافة وضع القفل Lockdown Mode كإجراء أمني متقدم يهدف إلى تقليل المخاطر المرتبطة بالتفاعل مع الأنظمة الخارجية، حيث يفرض قيودًا صارمة على قدرة النموذج في البحث عبر الإنترنت، تشغيل أدوات، أو الوصول إلى بيانات خارجية بشكل افتراضي، بما يعزز حماية البيانات الحساسة من مخاطر حقن البرمبت (prompt injection).
يُعد الوضع خيارًا استثنائيًا وليس مطلوبًا لمعظم المستخدمين، ولكنه يعزز أُطر الأمان عبر تقييد شديد لطريقة تفاعل النموذج مع المصادر الخارجية وتقليل احتمالات تسريب البيانات في بيئات عالية الحساسية.
كيفية عمل الوضع عمليًا ومن يحتاجه؟
يُفعل المستخدم الوضع يدويًا عند الحاجة فقط، وتوصى باستخدامه في بيئات عالية المخاطر مثل التعامل مع بيانات طبية أو مالية أو حكومية. عند التفعيل يتحول شات جي بي تي إلى نظام مغلق يعتمد تقريبًا فقط على المعرفة الداخلية للنموذج دون اتصال خارجي، مما يقلل بشكل كبير إمكانية تسريب البيانات عبر الهجمات غير المباشرة.
أهمية وضع القفل في عصر الذكاء الاصطناعي المتقدم
يُعد وضع القفل خطوة استراتيجية لمواجهة أحد أبرز الثغرات الأمنية في نماذج اللغة الكبيرة، حيث قد يحاول المهاجمون عبر برومبت خبيثة خداع النموذج لتنفيذ أوامر غير مرغوبة أو استخراج معلومات سرية. يحد الوضع من الوظائف الخارجية بشكل حازم، مثل البحث عبر الإنترنت، تشغيل الأدوات، أو الوصول إلى بيانات خارجية بشكل افتراضي.
