أظهرت دراسة مشتركة بين جامعات تكساس إيه آند إم وتكساس وبيردو ظاهرة تسمى فرضية تلف دماغ نماذج اللغة الكبيرة، وتشير إلى أن التعرض المستمر لنصوص الإنترنت السطحية والمنخفضة الجودة قد يترك آثاراً دائمة على الأداء المعرفي للنماذج الاصطناعية.
تكشف النتائج أن التعرّض المستمر للمحتوى الرديء قد يؤدي إلى تدهور في قدرات الاستدلال والفهم السياقي، مع ظهور أنماط تفكير متسرعة يترتب عليها إصدار إجابات غير دقيقة بثقة مفرطة.
في إطار التجربة، غذى الباحثون النماذج بتدفق مستمر من منشورات منصة X تتضمن عبارات جذابة من نوع الطُعم الرقمي مثل “اليوم فقط!” و”لن تصدق ما حدث”، بهدف قياس أثرها.
أظهرت النتائج تراجعاً في أداء ARC من 74.9 إلى 57.2، وتراجعاً في اختبار RULER لفهم السياق الطويل من 84.4 إلى 52.3.
لاحظ الباحثون أن النماذج بدأت تتبنّى أنماط تفكير متسرعة تتخطى خطوات التحليل وتصدر إجابات غير دقيقة بثقة عالية، كما ارتفعت مؤشرات النرجسية والاعتلال النفسي بينما تراجعت صفات الضمير والانسجام، ولا يزال ذلك قائماً حتى بعد إعادة تغذيتها ببيانات عالية الجودة.
حتى مع إعادة تدريب وتغذية البيانات العالية الجودة، استمرت آثار المحتوى الرديء في الظهور كإشارات دائمة في سلوك النماذج وأدائها، ما يوحي بوجود أضرار تراكمية يمكن أن تكون طويلة الأمد.
نتائج وأدوات القياس
تؤكد الدراسة أن الذكاء الاصطناعي ليس محصناً من التأثيرات السلبية للمحتوى السيئ، مما يستوجب إعادة النظر في مصادر البيانات المستخدمة لتدريبه.
يُوصى بأن تعتمد الشركات سياسات صارمة لمراقبة جودة البيانات، وتنقيتها قبل التدريب، لضمان تقليل الأضرار التراكمية التي قد تضعف ذكاء النماذج على المدى الطويل.
التوصيات والوقاية
كما يبرز البحث أهمية وجود معايير شفافة للبيانات وتقييمها، وتبني إجراءات تحقق مستمرة من جودة البيانات وفلترتها بشكل مناسب قبل مراحل التدريب الكبرى.
