الخطر الأمني للنماذج مفتوحة المصدر
يكشف بحث مشترك أُجري بين شركتي سينتينل وان وسينسيس عن مخاطر أمنية واقعية تتعلق بنماذج لغوية مفتوحة المصدر، حيث يمكن استغلالها خارج القيود التي تفرضها منصات الذكاء الاصطناعي الكبرى في سياق عالمي يزداد فيه احتمال الإساءة والاستخدام غير المشروع.
يمكن للقراصنة السيطرة على أجهزة الحاسوب التي تشغل هذه النماذج وتجاوز آليات الأمان، لاستخدامها في أنشطة غير قانونية مثل حملات البريد المزعج، وإنشاء محتوى تصيدي، ونشر تضليل إعلامي، إضافة إلى سرقة بيانات شخصية وعمليات احتيال، بل في بعض الحالات مواد تتعلق باستغلال الأطفال جنسيًا.
نتائج الدراسة وأبرز الأرقام
تشير النتائج إلى وجود آلاف النماذج المفتوحة المصدر المنتشرة عبر الإنترنت، وتتركز نسبة كبيرة منها في عائلات مثل لاما من ميتا وجِما من جوجل ديب مايند، مع رصد مئات الحالات التي أزيلت فيها ضوابط أمان عمدًا من هذه النماذج.
حللت الدراسة عمليات نشر عامة لنماذج لغوية مفتوحة المصدر تعمل عبر أداة أولاما، التي تتيح للأفراد والمؤسسات تشغيل نسخهم الخاصة من نماذج الذكاء الاصطناعي، وتبيّن أن 7.5% من النماذج التي دُرست قد تتيح أنشطة ضارة.
كما أظهرت النتائج أن نحو 30% من الخوادم التي تشغّل هذه النماذج تقع في الصين، بينما يوجد نحو 20% منها في الولايات المتحدة.
ردود الفاعلين ومسؤولياتهم
وقالت رايتشل آدمز، الرئيسة التنفيذية ومؤسسة المركز العالمي لحوكمة الذكاء الاصطناعي، إن المسؤولية عن إساءة الاستخدام تصبح مشتركة بين جميع أطراف المنظومة بما في ذلك المختبرات المطورة، وليست محصورة في جهة بعينها.
وأضافت أن المختبرات تتحمل واجباً في توقع الأضرار المحتملة وتوثيق المخاطر وتوفير أدوات وإرشادات للحد من الاستخدام الضار، خاصة في ظل تفاوت قدرات إنفاذ القانون عالمياً.
وأشارت ماMeta إلى أدوات حماية لاما ودليل الاستخدام المسؤول لكنها لم تتطرق لتفاصيل حول المسؤولية عن الإساءات اللاحقة.
ومن جانب مايكروسوفت، قال رام شانكار سيفا كومار قائد فريق الريد تيم للذكاء الاصطناعي إن النماذج مفتوحة المصدر تلعب دوراً مهماً في عدة مجالات، لكنها قد تُساء استخدامها إذا أُطلقت دون ضوابط أمان مناسبة.
وأوضح أن مايكروسوفت تجري تقييمات قبل الإطلاق لرصد المخاطر خاصة في السيناريوهات المتصلة بالإنترنت أو التشغيل الذاتي، وتراقب التهديدات وأنماط سوء الاستخدام، مؤكداً أن الابتكار المفتوح المسؤول يتطلب التزاماً مشتركاً من المطورين والمشغلين والباحثين وفرق الأمن.
