أعلنت شركة OpenAI عن إطلاق وضع القفل في شات جي بي تي كإجراء أمني متقدم يهدف إلى تقليل المخاطر المرتبطة بالتفاعل مع الأنظمة الخارجية، ويُعد هذا الإجراء استثنائيًا وليس مطلوبًا لمعظم المستخدمين.
يؤدي وضع القفل إلى تقييد واسع للوظائف الخارجية مثل البحث في الإنترنت، تشغيل الأدوات، أو الوصول إلى بيانات خارجية بشكل افتراضي، مما يقلل بشكل ملحوظ فرص استغلال النماذج في تنفيذ أوامر غير مرغوبة.
يمكن تفعيل الوضع يدويًا من قبل المستخدم عند الحاجة، ويُفضَّل استخدامه في بيئات عالية المخاطر مثل العمل مع بيانات طبية أو مالية أو معلومات حكومية حساسة.
عند التفعيل يتحول شات جي بي تي إلى نظام شبه مغلق يعتمد بشكل أساسي على المعرفة الداخلية للنموذج، وبذلك يصبح الوصول إلى مصادر خارجية مقيدًا للغاية وتقل احتمالية تسريب البيانات عبر هجمات خارجية أو حقن برمبت.
تأتي هذه الخطوة في سياق زيادة الضغوط على الخصوصية والأمان مع توسع استخدام النماذج في بيئات عمل حساسة، وهو إجراء يعزز الثقة في استخدام الذكاء الاصطناعي في التعامل مع معلومات حساسة.
تُعَد وضع القفل جزءًا من استراتيجية أوسع لمواجهة ثغرات أمنية محتملة في نماذج اللغة الكبيرة، إذ يسمح بتقليل الاعتماد على واجهات خارجية وتخفيف مخاطر اعتراض البيانات أو استخدامها بطرق غير مقصودة.
