تشير دراسة مشتركة أجرتها شركتا الأمن السيبراني سينتينل وان وسينسيس إلى أن نماذج الذكاء الاصطناعي المفتوحة المصدر، بما فيها نماذج مثل لاما من ميتا و جِما من جوجل ديب مايند، قد تكون عرضة للاستغلال من قبل القراصنة والمجرمين، ما يشكل مخاطر أمنية متزايدة على المستوى العالمي.
ما الذي تكشفه الدراسة
يمكن القراصنة تشغيل هذه النماذج خارج القيود والضوابط التي تفرضها منصات الذكاء الاصطناعي الكبرى، واستخدامها في تنفيذ أنشطة غير قانونية مثل حملات البريد المزعج، وإنشاء محتوى تصيدي، ونشر محتوى تضليلي، وسرقة بيانات شخصية، وعمليات احتيال ونصب، بل وفي بعض الحالات مواد تتعلق باستغلال جنسي للأطفال.
تشير النتائج إلى وجود آلاف النماذج مفتوحة المصدر، مع أن نسبة كبيرة منها على خوادم مرتبطة بالإنترنت تعود إلى نماذج مثل لاما وجِما وغيرها، كما رصد الباحثون مئات الحالات التي أزيلت فيها ضوابط الأمان عمدًا. وتوضح الدراسة أن نحو ربع النماذج التي نُشرت من خلال أداة أولاما، التي تتيح للأفراد والمؤسسات تشغيل نسخهم من النماذج، كشفت عن وجود أوامر النظام في نحو ربعها، وأن 7.5% منها قد تتيح أنشطة ضارة. كما أظهرت النتائج أن نحو 30% من الخوادم التي تشغّل هذه النماذج تقع في الصين ونحو 20% في الولايات المتحدة.
المسؤولية والاعتبارات الأخلاقية
قالت رايتشل آدامز، الرئيسة التنفيذية ومؤسسة المركز العالمي لحوكمة الذكاء الاصطناعي، إن المسؤولية بعد إطلاق النماذج المفتوحة تصبح مشتركة بين جميع أطراف المنظومة، بما في ذلك المختبرات المطوّرة. وأضافت أن المختبرات ليست مسؤولة عن كل إساءة استخدام لاحقة، لكنها تتحمل واجباً في توقّع الأضرار المحتملة وتوثيق المخاطر وتوفير أدوات وإرشادات للحد منها، خاصة في ظل تفاوت قدرات إنفاذ القوانين عالميًا. وفي تعليق، امتنعَت ميتا عن الرد على أسئلة تتعلق بمسؤولية المطورين عن إساءة الاستخدام للنماذج المفتوحة، لكنها أشارت إلى أدوات حماية لاما ودليل الاستخدام المسؤول الخاص بالشركة.
وأشار رام شانكار سيفا كومار، قائد فريق “الريد تيم” للذكاء الاصطناعي في مايكروسوفت، إلى أن النماذج المفتوحة المصدر تلعب دوراً مهماً في مجالات عدة، لكنها قد تُساء استخدامها إذا أُطلقت دون ضوابط أمان مناسبة. وأوضح أن مايكروسوفت تجري تقييمات قبل الإطلاق لرصد المخاطر، خاصة في السيناريوهات المرتبطة بالإنترنت أو التشغيل الذاتي، وتراقب التهديدات الناشئة وأنماط سوء الاستخدام، مؤكداً أن الابتكار المفتوح المسؤول يتطلب التزاماً مشتركاً من المطورين والمشغّلين والباحثين وفرق الأمن.
