تحذير من مخاطر النماذج المفتوحة المصدر في الأمن السيبراني
تشير الدراسة إلى أن نماذج الذكاء الاصطناعي المفتوحة المصدر، بما فيها نموذج لاما من ميتا، قد تكون عرضة للاستغلال من قبل القراصنة والمجرمين، ما يشكل مخاطر أمنية عالمية.
يمكن للقراصنة السيطرة على أجهزة الحاسوب التي تشغّل هذه النماذج خارج القيود والضوابط المعتمدة من منصات الذكاء الاصطناعي الكبرى، واستخدامها في أنشطة غير قانونية مثل حملات البريد المزعج، وإنشاء محتوى تصيدي، ونشر معلومات مضلّلة، مع تجاوز بروتوكولات الأمان المعتمدة.
أجرت الشركتان الأمنيتان سينتينل وان وسينسيس دراسة مشتركة استمرت 293 يوماً، وتسلط الضوء على الحجم الكبير للاستخدامات غير المشروعة المحتملة لآلاف النماذج مفتوحة المصدر المنتشرة على الإنترنت.
شملت الاستخدامات المحتملة نشاطات قرصنة وخطاب كراهية ومضايقات ومحتوى عنيف، وسرقة بيانات شخصية، وعمليات احتيال ونصب، بل حتى مواد تتعلق باستغلال جنسي للأطفال في بعض الحالات.
ورغم وجود آلاف النماذج المفتوحة المصدر، فإن نسبة كبيرة منها مستضافة على خوادم الإنترنت تعود إلى نماذج “لاما” من ميتا و”جِما” من جوجل ديب مايند وغيرها، ورُصدت مئات الحالات التي أُزيلت فيها ضوابط الأمان عمداً من هذه النماذج.
قال خوان أندريس جيريرو سادي، المدير التنفيذي لأبحاث الاستخبارات والأمن في سينتينل وان، إن النقاشات حول ضوابط الأمان تتجاهل فائض القدرة التشغيلية الذي يمكن استغلاله لأغراض متنوعة، بعضها مشروع والبعض الآخر إجرامي، وهو وضع يشبه جبل جليد لا يتم التعامل مع حجمه الحقيقي بالشكل الكافي داخل الصناعة ومجتمع المصادر المفتوحة.
حلّلت الدراسة عمليات نشر عامة لنماذج لغوية مفتوحة المصدر تعمل عبر أداة “أولاما”، وتبيَّن أن نحو ربع النماذج شملت أوامر النظام التي تحدد سلوك النموذج، وأن 7.5% منها قد تتيح أنشطة ضارة.
أظهرت النتائج أن نحو 30% من الخوادم التي تشغّل هذه النماذج تقع في الصين، ونحو 20% في الولايات المتحدة.
ورأت رايتشل آدامز، الرئاسة التنفيذية ومؤسسة المركز العالمي لحوكمة الذكاء الاصطناعي، أن المسؤولية عن إساءة استخدام النماذج المفتوحة تصبح مشتركة بين جميع أطراف المنظومة، بما في ذلك المختبرات المطوّرة، وتضيف أن المختبرات ليست مسؤولة عن كل إساءة استخدام لاحقة لكنها تتحمل واجباً في توقع الأضرار وتوثيق المخاطر وتوفير أدوات وإرشادات للحدّ منها، خاصة في ظل تفاوت قدرات إنفاذ القوانين عالمياً.
وفي تعليق مقتضب، امتنعت “ميتا” عن الرد على أسئلة تتعلق بمسؤولية المطورين عن إساءة الاستخدام للنماذج المفتوحة، لكنها أشارت إلى أدوات حماية لاما ودليل “الاستخدام المسؤول” الخاص بالشركة.
بدوره، قال رام شانكار سيفا كومار، قائد فريق “الريد تيم” للذكاء الاصطناعي في مايكروسوفت، إن الشركة ترى أن النماذج المفتوحة المصدر تلعب دوراً مهماً في مجالات عدة، لكنها تدرك في الوقت ذاته أن هذه النماذج قد تُساء استخدامها من قبل جهات معادية إذا أُطلقت دون ضوابط أمان مناسبة.
وأوضح أن مايكروسوفت تجري تقييمات قبل الإطلاق لرصد المخاطر، خاصة في السيناريوهات المتصلة بالإنترنت أو التشغيل الذاتي، وتراقب التهديدات الناشئة وأنماط سوء الاستخدام، مؤكداً أن الابتكار المفتوح المسؤول يتطلب التزاماً مشتركاً من المطورين والمشغّلين والباحثين وفرق الأمن.
