يُعلن وضع القفل عن إجراء أمني متقدم داخل شات جي بي تي يهدف إلى تقليل المخاطر المرتبطة بالتفاعل مع الأنظمة الخارجية وتقليل احتمالية تسريب البيانات.
أهمية وضع القفل
يُعتبر هذا الوضع خيارًا استثنائيًا وليس مطلوبًا للمستخدمين جميعهم، ويفضل استخدامه في البيئات عالية المخاطر مثل التعامل مع بيانات طبية أو مالية أو معلومات حكومية.
كيف يعمل عمليًا
عند التفعيل يصبح الشات جي بي تي أقرب إلى نظام مغلق يعتمد بشكل رئيسي على المعرفة داخل النموذج دون تواصل خارجي، مما يقلل بشكل كبير إمكانية تسريب البيانات عبر أي تفاعل غير مباشر.
يُفعل المستخدم الوضع يدويًا عند الحاجة، ويُوجه للاستخدام في البيئات العالية المخاطر، حيث يجب تقييم الحاجة والتحذيرات.
يحد الوضع بشكل صارم من عدد كبير من الوظائف الخارجية مثل البحث عبر الإنترنت، تشغيل الأدوات، أو الوصول إلى بيانات خارجية افتراضيًا، وهو ما يحد من مخاطر حقن البرمبت وخداع النموذج.
متى ولماذا نستخدمه
تُعد هذه خطوة استراتيجية لمواجهة ثغرات أمنية في نماذج اللغة الكبيرة، حيث يقلل من احتمال أن يستجيب النموذج لأوامر غير مرغوبة أو يسرب معلومات حساسة.
من الناحية العملية، يحتاج المستخدمون إلى تفعيل الوضع يدويًا في الحالات التي تتطلب أقصى درجات الحماية، وتكون النتائج المعتمدة أساسًا من المعرفة المخزنة داخل النموذج، مع تقليل الاعتماد على مصادر خارجية.
تأتي هذه الميزة في إطار جهود تعزيز الخصوصية والأمان مع توسيع استخدام النموذج في بيئات حساسة ومراقبة مستمرة لضمان حماية البيانات والمعلومات الحساسة.
