تشير دراسة مشتركة أُجريت على مدار 293 يوماً إلى أن نماذج الذكاء الاصطناعي المفتوحة المصدر، بما فيها نموذج لاما من Meta، قد تكون عرضة لاستغلال القراصنة والمجرمين، وهو ما يرفع المخاطر الأمنية عالمياً.
ويُوضح الباحثون أن القراصنة يمكنهم بسهولة السيطرة على أجهزة الحاسوب التي تشغّل هذه النماذج خارج القيود والضوابط التي تفرضها منصات الذكاء الاصطناعي الكبرى، واستخدامها في أنشطة غير قانونية مثل حملات البريد المزعج ونشر محتوى تصيدي وتضليل إعلامي وتجاوز بروتوكولات الأمان.
أبرز ما كشفت الدراسة
أجرت الدراسة تحليلاً لعمليات نشر عامة لنماذج لغوية مفتوحة المصدر عبر أداة أولاما التي تتيح تشغيل نسخ خاصة من النماذج، وكشفت أوامر النظام التي تحدد سلوك النموذج في نحو ربع النماذج التي تمت دراستها، وتوصلت إلى أن نحو 7.5% منها قد تسمح بأنشطة ضارة.
وتبيّن أيضاً أن نحو 30% من الخوادم التي تشغّل هذه النماذج تقع في الصين، في حين تقبع نحو 20% في الولايات المتحدة.
وأشارت رايتشل آدامز، الرئيسة التنفيذية والمؤسسة للمركز العالمي لحوكمة الذكاء الاصطناعي، إلى أن المسؤولية عن الاستخدامات السلبية لا تكون محصورة في مطوري المصادر المفتوحة وحدهم، بل هي مسؤولية مشتركة تشمل جميع أطراف المنظومة وتحديداً المختبرات المطوّرة.
وقالت إن المختبرات ليست مسؤولة عن كل إساءة استخدام لاحقة لكنها تتحمّل واجباً في توقع الأضرار وتوثيق المخاطر وتوفير إرشادات وأدوات للحد منها، خصوصاً في ظل تفاوت قدرات إنفاذ القانون عالمياً.
في تعليق مقتضب، رفضت «ميتا» الرد على أسئلة حول مسؤولية المطورين عن إساءة الاستخدام لكنها أشارت إلى أدوات حماية لاما ودليل الاستخدام المسؤول الخاص بالشركة.
من جهته قال رام شانكار سيفا كومار، قائد فريق الذكاء الاصطناعي في مايكروسوفت، إن الشركة ترى أن النماذج المفتوحة المصدر تلعب دوراً مهماً في مجالات كثيرة، لكنها قد تُساء استخدامها من قبل جهات معادية إذا أُطلقت دون ضوابط أمان مناسبة.
وأوضح أن مايكروسوفت تجري تقييمات قبل الإطلاق لرصد المخاطر، خاصة في سيناريوهات الاتصال بالإنترنت أو التشغيل الذاتي، وتتابع التهديدات الناشئة وأنماط سوء الاستخدام، مؤكداً أن الابتكار المفتوح المسؤول يتطلب التزاماً مشتركاً من المطورين والمشغلين والباحثين وفرق الأمن.
