ذات صلة

اخبار متفرقة

«الأرصاد»: أمطار متوسطة ستشهدها هذه المناطق

يتوقع المركز الوطني للأرصاد هطول أمطار رعدية متوسطة إلى...

تنفيذ حكم القتل تعزيراً على أحد الجناة في منطقة مكة المكرمة

نفذت وزارة الداخلية حكم القتل تعزيرًا بالجاني خليل أحمد...

استدعاء 4657 مركبة من شيفروليه وجي إم سي بسبب عيب خطير في الوسادة الهوائية

أعلنت وزارة التجارة عن استدعاء 4657 مركبة من طرازات...

شعاب البحر الأحمر تقاوم الحرارة.. و”الحياة الفطرية” تسجل تحسنًا غير مسبوق

اختتم المركز الوطني لتنمية الحياة الفطرية المرحلة الثانية لفصل...

دراسة بريطانية تكشف أن ChatGPT وGemini يمكن التلاعب بهما لتوليد محتوى مضلل

خطر التلاعب بنماذج الذكاء الاصطناعي

أظهرت دراسة صادرة عن مركز الذكاء الاصطناعي في بريطانيا وشركة أنتروبيك أن نماذج الذكاء الاصطناعي مثل ChatGPT وGemini قد تكون عُرضة لثغرات تسمح للمخترقين بتدريبها باستخدام بيانات كاذبة لإنتاج محتوى مضلّل وخطير.

أُجرت التجربة على نحو 250 وثيقة ملوثة ببيانات مغلوطة دخلت عبر ثغرة خلفية، وبعد التدريب أفرزت النماذج نصوصًا غامضة وغير مفهومة، وهو ما يبرز إمكانية إساءة استخدامها لإنتاج محتوى ضار للمستخدمين.

تشير النتائج إلى أن الجهات الخبيثة قد تستغل هذه الثغرات لإدخال نصوص ملوثة في المنشورات، مما يجعل النماذج تتبنّى سلوكيات غير مرغوبة وخطيرة، وتُعرف هذه العملية بالتسميم، وهو ما يستدعي الحذر من الاعتماد على هذه النماذج في مجالات حسّاسة للغاية.

spot_img
spot_imgspot_img

تابعونا على