أطلق المعهد الوطني للمعايير والتكنولوجيا (NIST) رسميًا مبادرة جديدة بعنوان “معايير وكلاء الذكاء الاصطناعي” تهدف إلى معالجة التحديات الأمنية المرتبطة بالوكلاء المستقلين الذين يعملون دون تدخل بشري مباشر.
وتهدف المبادرة إلى وضع أطر عمل واضحة تضمن أمان وموثوقية هذه الأنظمة، خاصة مع تزايد اعتماد الشركات على الوكلاء الذكيين في إدارة البيانات الحساسة والعمليات التشغيلية المعقدة عالميًا.
أهداف المبادرة
تسعى المبادرة إلى تحديد المعايير الفنية والبروتوكولات الأمنية التي يجب أن يلتزم بها المطورون لضمان بقاء الوكلاء المستقلين تحت السيطرة وآمنين من الاختراق. وتأتي هذه الخطوة استجابة لتحذيرات خبراء الأمن السيبراني من احتمال وجود ثغرات تتعلق بكيفية تفاعل أنظمة الذكاء الاصطناعي مع الأدوات والبرمجيات الأخرى.
كما تسعى المبادرة إلى بناء لغة تقنية موحدة تمكّن المطورين من تطوير وكلاء أذكياء يتمتعون بقدرات دفاعية ذاتية والقدرة على الالتزام بالقواعد الأخلاقية والمهنية المحددة، مما يعزز الثقة في التكنولوجيا المستقلة.
أطر الأمن والخصوصية
تعمل المبادرة على وضع معايير للأمان والخصوصية تشمل حماية البيانات الحساسة وتحديد حدود وصول الوكلاء والتعامل الآمن مع المعلومات، إضافة إلى معايير تسمح بمراجعة الأداء والامتثال الأخلاقي للمطورين.
مواجهة مخاطر الوكلاء المستقلين
تهدف القواعد التنظيمية الجديدة إلى منع التفاعلات غير المقصودة أو الضارة بين أنظمة الذكاء الاصطناعي المختلفة، وتقليل احتمال وقوع حوادث تقنية كبيرة بسبب استقلال القرار. وتعد هذه المبادرة نقطة تحوّل في طريقة تعامل المجتمع الدولي مع الذكاء الاصطناعي، من التنظير الأخلاقي إلى التنظيم الفني الدقيق.
ومع استمرار تطور وكلاء الذكاء الاصطناعي ليصبحوا جزءًا أساسيًا من الاقتصاد الرقمي، تبرز أهمية وجود معايير عالمية موحدة تضمن أن يظل هذا التطور مفيدًا وآمنًا، ما يعزز الثقة العامة في التقنيات المستقلة ويحمي سلاسل التوريد البرمجية من التهديدات المتطورة.
