تشير تحذيرات خبراء تقنيين إلى تفاقم ظاهرة تسمم نماذج الذكاء الاصطناعي، حيث تتدرب النماذج نفسها على محتوى غير موثوق مولد مسبقًا من أنظمة ذكاء اصطناعي أخرى، فيتشكل حلقة مفرغة من البيانات الرديئة وتتصاعد الأخطاء وتزداد التحيزات بشكل غير مسبوق.
يؤدي ذلك إلى تضخيم الأخطاء الواقعية والتحيزات ويُنتج مخرجات غير دقيقة أو مضللة، خاصة عندما يتم الاعتماد على هذه النماذج في تطبيقات حيوية كالقطاع الصحي والخدمات المالية والأمن السيبراني، مما يجعل الوضع أسوأ بمرور الوقت وتظهر ظاهرة تسمى GIGO بشكل واضح، حيث تكون المدخلات الخاطئة سببًا في مخرجات كارثية.
تؤكد تقارير أن المؤسسات تشهد في الوقت الراهن سيطرة طوفان من المحتوى الآلي غير المحقق، وتنتقل المدخلات المعيبة عبر مسارات العمل والقرارات، مما يؤدي إلى نتائج أسوأ من تلك التي نشهدها اليوم؛ ودعت إلى اعتماد نهج صارم لتنقية البيانات وحمايتها فورًا.
يمثل هذا التحدي عائقًا استراتيجيًا أمام مستقبل الذكاء الاصطناعي، خاصة مع الاعتماد المتزايد في القطاعات الحيوية، وتبرز حاجة إلى تطبيق مبادئ الثقة المعدومة (Zero Trust) على حوكمة البيانات، لإجراء تدقيق شامل في جودة وأصالة كل معلومة تدخل في تدريب النماذج وضمان صلاحيتها للاستخدام البشري.
دورة التدهور الذاتي
ينشئ التدريب المستمر على بيانات اصطناعية دورة تدهور ذاتي تفقد فيها النماذج فهمها للواقع البشري، فتصبح الإجابات غير منطقية ومضللة، وتصبح آليات التحقق من صحة البيانات وتنقيتها شرطًا أساسيًا لاستمرار عمل النماذج بفعالية ومصداقية عالية.
ولتفادي هذا الانهيار، تبرز الحاجة إلى حوكمة بيانات صارمة، مع التحقق من مصادر البيانات وتنقيتها وتقييم جودتها قبل استخدامها في التدريب، إضافة إلى الاعتماد على مبادئ الثقة المعدومة لضمان سلامة المعطيات ومصداقية المخرجات.
