وضع القفل داخل شات جي بي تي
أعلنت شركة OpenAI إطلاق وضع القفل داخل شات جي بي تي كميزة أمان متقدمة تهدف إلى تقليل المخاطر الأمنية المرتبطة بالتفاعل مع الأنظمة الخارجية.
وهو إجراء استثنائي لا يحتاجه معظم المستخدمين، لكنه يفرض قيوداً صارمة على طريقة تفاعل النموذج مع أي أنظمة خارجية، وذلك لتقليل مخاطر حقن البرومبت التي قد تؤدي إلى كشف معلومات حساسة.
كيف يعمل وضع القفل ولمَن يحتاجه
يُفعّل المستخدم الوضع يدوياً عند الحاجة فقط، ويُنصح باستخدامه في البيئات عالية المخاطر مثل التعامل مع بيانات طبية أو مالية أو معلومات حكومية.
عند التفعيل يتحول شات جي بي تي إلى نظام مغلق تقريباً يعتمد فقط على المعرفة الداخلية للنموذج بدون أي اتصال خارجي، مما يقلل بشكل كبير إمكانية تسريب البيانات عبر الهجمات غير المباشرة.
أثره وأهميته في الخصوصية والأمان
تأتي هذه الخطوة في وقت تواجه فيه الشركة ضغوطاً متزايدة بشأن الخصوصية والأمان بعد تحديثات النموذج وتوسع استخدامه في بيئات حساسة.
الآلية والقيود المطبقة
يعد وضع القفل خطوة استراتيجية لمواجهة أحد أبرز الثغرات الأمنية المحتملة في نماذج اللغة الكبيرة، فبرومبت خبيث قد يحاول خداع النموذج لتنفيذ أوامر غير مرغوبة أو للوصول إلى بيانات حساسة. يقوم الوضع عند التفعيل بحظر أو تقييد شديد لعدد كبير من الوظائف الخارجية مثل البحث في الإنترنت أو تشغيل الأدوات أو الوصول إلى بيانات خارجية بشكل افتراضي.
يؤكد القائمون أن الوضع قابل للتفعيل عند الحاجة، مع التنبيه إلى أن القيود قد تؤثر في بعض الاستخدامات العادية، وهذا ما يعزز الخصوصية في البيئات الحساسة.
