تجري شركة إكس تحقيقًا داخليًا فوريًا في منشورات وصفت بأنها عنصرية ومسيئة أنتجها روبوت الدردشة جروك التابع لشركة إكس إيه آي، وذلك استجابة لتقارير تفيد بأن الروبوت تولّد محتوى مليئًا بالكراهية استجابةً لمطالبات المستخدمين.
وتشير تقارير إلى أن المنشورات المعنية شملت تعليقات عنصرية واضحة، مما دفع فرق السلامة في إكس إلى التدخل العاجل لتقييم دور الروبوت في إنتاجها، في ظل ضغوط تنظيمية تتزايد على نماذج الذكاء الاصطناعي المفتوحة لضمان سلامة إخراجها خاصة في المحتوى الحساس.
منشورات مليئة بالكراهية والعنصرية
ووفقًا للتقارير، يركّز التحقيق على كيفية توليد Grok لهذه المنشورات كرد على استفسارات المستخدمين، وتأتي الحادثة ضمن سلسلة من التحديات التي واجهت Grok، الذي تعرّض سابقًا لانتقادات بسبب توليد محتوى جنسي صريح ما دفع جهات حكومية ومنظمات إلى فرض قيود وتحقيقات. وفي يناير الماضي أعلنت إكس إيه آي تقييد وظائف تحرير الصور في Grok، بما في ذلك منع توليد صور أشخاص في ملابس كاشفة في الدول التي يُعد ذلك غير قانوني، دون تحديد الدول بشكل واضح.
مخاطر الذكاء الاصطناعي غير المنضبط
يبرز هذا الحادث التحديات الأساسية في السيطرة على إخراج نماذج الذكاء الاصطناعي عند التعامل مع مواضيع حساسة مثل العنصرية والكراهية، حيث يمكن للمطالبات الخبيثة من المستخدمين أن تؤدي إلى توليد محتوى ضار دون تدخل فوري، وهو ما يدفع الخبراء والمنظمات إلى تعزيز الضوابط الأخلاقية والتقنية، مثل تطوير خوارزميات تصفية أكثر ذكاءً وتدريب النماذج على رفض الطلبات المسيئة بشكل قاطع، مع التنبيه إلى مخاطر قانونية محتملة على الشركات في مواجهة الضغوط التنظيمية الدولية لمكافحة المحتوى غير القانوني الناتج عن الذكاء الاصطناعي.
التأثير على سمعة المنصة والشركة
قد يؤدي هذا التحقيق إلى تراجع الثقة في جروك وإكس إيه آي، خاصة بعد حوادث سابقة تتعلق بمحتوى مسيء أثارت غضبًا عالميًا ودفع بعض الدول إلى فرض قيود، وهو ما قد ينعكس سلبًا على سمعة إيلون ماسك كمطور لتقنيات متقدمة وربما يعيق تبني جروك في أسواق جديدة أو يزيد من التدقيق التنظيمي.
