أطلق المعهد الوطني للمعايير والتكنولوجيا (NIST) مبادرة جديدة بعنوان “معايير وكلاء الذكاء الاصطناعي” تهدف إلى وضع أطر تنظيمية تضمن أمان وموثوقية الوكلاء الذكيين المستقلين الذين يعملون دون تدخل بشري، وتتركز المبادرة على وضع معايير واضحة لضمان حماية البيانات الحساسة وسلامة الإجراءات في عمليات الشركات والمؤسسات والحكومات حول العالم. وتأتي هذه الخطوة في سياق مخاوف الأمن السيبراني من ثغرات قد تظهر عند تفاعل أنظمة الذكاء الاصطناعي مع الأدوات والبرمجيات الأخرى.
أهداف المبادرة
تركز المبادرة على تحديد المعايير الفنية والبروتوكولات الأمنية التي يجب أن يتبعها المطورون لضمان ألا يخرج الوكلاء المستقلون عن السيطرة أو يتعرضوا للاختراق. وتأتي هذه الجهود استجابةً لتحذيرات خبراء الأمن السيبراني من مخاطر تتعلق بكيفية تفاعل أنظمة الذكاء الاصطناعي مع غيرها من الأدوات والبرمجيات، وهو ما قد يهدد البنية الرقمية للمؤسسات.
إطار الأمان والخصوصية
تسعى المبادرة إلى وضع لغة تقنية موحدة للمطورين، تتيح بناء وكلاء أذكياء يتمتعون بقدرات دفاع ذاتي وتلتزم باحترام القواعد الأخلاقية والمهنية المحددة.
مواجهة مخاطر الوكلاء المستقلين
تهدف القواعد الجديدة إلى منع التفاعلات غير المقصودة أو الضارة بين أنظمة الذكاء الاصطناعي المختلفة، مما يقلل احتمال وقوع حوادث تقنية كبرى ناجمة عن استقلالية القرار. ويُعد هذا التحول خطوة رئيسية في كيفية تعامل المجتمع الدولي مع الذكاء الاصطناعي، حيث ينتقل من المناقشات الأخلاقية إلى التنظيم الفني الدقيق. ومع استمرار تطور وكلاء الذكاء الاصطناعي ليصبحوا جزءاً أساسيّاً من الاقتصاد الرقمي، تبرز الحاجة إلى معايير عالمية موحدة تضمن أن يظل التطور مفيداً وآمناً، وتحمي الثقة العامة في التقنيات المستقلة وتدعم سلاسل التوريد البرمجية من تهديدات متقدمة.
