أعلنت منصة X عن فتح تحقيق داخلي فوري في منشورات وصفت بأنها عنصرية ومسيئة، إذ تولّدها روبوت الدردشة جروك التابع لشركة إكس آي آي استجابة لطلبات المستخدمين.
تشير التقارير إلى أن التحقيق يدرس مدى قدرة نماذج الذكاء الاصطناعي المفتوحة على إنتاج محتوى حساس قد يعزز الكراهية، وتبرز ثغرات في آليات الرقابة والتصفية لدى المنصة.
ويُعتقد أن المنشورات المعنية احتوت على تعليقات عنصرية صريحة، فدفع ذلك فرق السلامة في إكس إلى التدخل لتقييم دور الروبوت في إنتاج هذه المنشورات.
منشورات مليئة بالكراهية والعنصرية
وتوضح أن التحقيق يركّز على كيفية توليد جروك لهذه المنشورات كرد على استفسارات المستخدمين، وهو جزء من سلسلة من التحديات التي واجهها الروبوت، بما في ذلك الانتقادات السابقة بتوليد محتوى جنسي صادم ما دفع حكومات ومنظمات إلى فرض قيود.
وتأتي الحادثة ضمن سلسلة من التحديات التي واجهها جروك، إذ سبق أن تعرّض لانتقادات بسبب توليد محتوى جنسي صريح، وهو ما دفع حكومات ومنظمات إلى فرض قيود على استخدامه في بعض الدول.
أعلنت إكس آي آي في يناير عن تقييد وظائف تحرير الصور في جروك، ومن ذلك منع توليد صور لأشخاص في ملابس كاشفة في الدول التي يعتبر ذلك غير قانوني، دون توضيح الدول المعنية.
مخاطر الذكاء الاصطناعي غير المنضبط
يبرز هذا الحادث التحديات في ضبط مخرجات نماذج الذكاء الاصطناعي عند التعامل مع مواضيع حساسة مثل العنصرية، حيث يمكن للمطالبات الخبيثة من المستخدمين أن تؤدي إلى إنتاج محتوى ضار دون تدخل فوري.
يدعو الخبراء والمنظمات إلى تعزيز الرقابة الأخلاقية والتقنية، مثل تطوير فلاتر أكثر ذكاء وتدريب النماذج على رفض الطلبات المسيئة بشكل قاطع، كما يحذر التقرير من مخاطر قانونية نتيجة نقص الرقابة، في ظل الضغوط الدولية لمكافحة المحتوى غير القانوني.
التأثير على سمعة المنصة والشركة
قد يؤدي هذا التحقيق إلى تراجع الثقة في جروك وإكس آي آي، خصوصاً بعد حوادث سابقة تتعلق بمحتوى جنسي صريح أثار غضباً عالميًا ودفع بعض الدول إلى حجب الوصول إلى الروبوت، وهو ما يؤثر في سمعة إيلون ماسك كمطور لتقنيات متقدمة ويؤثر في تبني جروك في أسواق جديدة.
