أطلق المعهد الوطني للمعايير والتكنولوجيا (NIST) مبادرة جديدة تحمل عنوان “معايير وكلاء الذكاء الاصطناعي” تهدف إلى وضع أطر تنظيمية تسهم في تعزيز أمان ووثوقية الأنظمة المستقلة التي تعمل دون تدخل بشري مباشر وتزايد اعتماد الشركات على هذه الوكلاء في إدارة البيانات الحساسة والعمليات التشغيلية المعقدة عالميًا.
تسعى المبادرة إلى وضع لغة تقنية موحدة وتحديد معايير فنية وبروتوكولات أمنية صارمة يجب الالتزام بها من قبل المطورين لضمان ألا يخرج الوكلاء عن السيطرة أو يتعرضوا للاختراق، مع التركيز على حماية البيانات والالتزام بالأخلاقيات المهنية والمعايير التنظيمية المعتمدة.
أهداف المبادرة
تركز المبادرة على تعريف متطلبات أمان وظيفي وتدابير خصوصية قابلة للتحقق وتقييمها، وتطوير إجراءات قابلة للتنفيذ لضمان أن الوكلاء المستقلة تظل ضمن حدود التحكم وتقلل مخاطر التداخل والتدخل غير المقصود بين أنظمة الذكاء الاصطناعي الأخرى، وتُسهم في تعزيز موثوقية وسلامة سلاسل التوريد البرمجية على مستوى العالم.
وضع معايير للأمان والخصوصية
تعمل المبادرة على إعداد لغة فنية موحدة تسمح بتطوير وكلاء أذكياء يتمتعون بقدرات دفاعية ذاتية وتلتزم بقواعد أخلاقية ومهنية محددة، مع توجيه البناء نحو تحقق من الامتثال والشفافية والتقييم المستمر للأداء والتهديدات.
مواجهة مخاطر الوكلاء المستقلين
تهدف القواعد الجديدة إلى الحد من التفاعلات غير المقصودة أو الضارة بين أنظمة الذكاء الاصطناعي المختلفة وتقلل من احتمالية الوقوع في حوادث تقنية بسبب استقلالية القرار، معتبرة خطوة محورية في تحويل النقاش من نطاق المفاهيم الأخلاقية إلى تنظيم تقني دقيق يحمي المصالح الوطنية والعالمية.
مع استمرار تطور وكلاء الذكاء الاصطناعي وتكاملها في الاقتصاد الرقمي العالمي، تؤكد المبادرة على أهمية وضع معايير عالمية موحدة لضمان أن تكون هذه التطورات مفيدة وآمنة، وتعمل على تعزيز الثقة العامة وتحصين سلاسل التوريد البرمجية من التهديدات المتطورة.
