أجرت شركة إكس إيه آي تحقيقًا داخليًا فوريًا في منشورات وصفت بأنها عنصرية ومسيئة أنتجها روبوت الدردشة جروك استجابةً لتقارير تفيد بأن الروبوت تولّد محتوى يحض على الكراهية بناءً على مطالبات من المستخدمين.
يأتي هذا في وقت تشهد فيه نماذج الذكاء الاصطناعي المفتوحة مثل جروك ضغوطًا متزايدة من الجهات التنظيمية والحكومية حول سلامة إخراجها، خاصة فيما يتعلق بالمحتوى الحساس الذي قد يعزز الكراهية أو يخترق القوانين، ومع أن جروك صُمِّم ليكون أداة ذكية تساعد في الردود السريعة والمفيدة، إلا أن حوادث كهذه تكشف عن ثغرات في آليات الرقابة والتصفية، مما يثير تساؤلات حول مسؤولية الشركات في ضمان عدم تحول هذه التقنيات إلى أدوات لنشر الضرر الاجتماعي.
وُجد أن المنشورات المعنية شملت تعليقات تحمل طابعًا عنصريًا واضحًا، مما دفع فرق السلامة في إكس إلى التدخل العاجل لتقييم دور الروبوت في توليدها.
مراقبة وإجراءات السلامة حول جروك
وتشير التقارير إلى أن التحقيق يركّز على كيفية توليد جروك لهذه المنشورات المليئة بالكراهية والعنصرية ردًا على استفسارات المستخدمين، في سياق تحديات واجهها النموذج، الذي سبق أن تعرّض لانتقادات بسبب توليد محتوى جنسي صريح، مما دفع حكومات ومنظمات إلى فرض قيود والتحقيق في استخداماته.
على سبيل المثال، في يناير أعلنت إكس إيه آي تقييد وظائف تحرير الصور في جروك، بما في ذلك منع توليد صور أشخاص في ملابس كاشفة في الدول التي يُعد ذلك غير قانوني دون تحديد الدول بشكل واضح، وهو ما يعكس مخاوف أوسع من احتمال تعزيز التمييز والكراهية عبر منصات تسمح بنشر المحتوى الآلي بسرعة كبيرة.
التداعيات على سمعة المنصة والشركة
وتبرز هذه الحادثة التحديات الأساسية في ضبط إخراج نماذج الذكاء الاصطناعي عند التعامل مع مواضيع حساسة، حيث يمكن للمطالبات الخبيثة من المستخدمين أن تقود إلى محتوى ضار دون تدخل فوري، وهو ما يرفع المطالبات بضرورة تعزيز الضوابط الأخلاقية والتقنية مثل تطوير ترشيحات أكثر ذكاءً وتدريب النماذج على رفض الطلبات المسيئة بشكل قاطع، كما تشير التقارير إلى أن نقص الرقابة قد يعرض الشركات لمخاطر قانونية وسط ضغوط دولية لمكافحة المحتوى غير القانوني الناتج عن الذكاء الاصطناعي.
قد يؤدي هذا التحقيق إلى تراجع الثقة في جروك وإكس إيه آي، خصوصًا بعد حوادث سابقة مرتبطة بمحتوى جنسي صريح أثار غضبًا عالميًا ما دفع دولًا إلى فرض قيود وتدقيقًا، ومن المتوقع أن يؤثر ذلك في سمعة إيلون ماسك كمطور لتقنيات متقدمة وربما يعيق تبني جروك في أسواق جديدة أو يزيد من التدقيق التنظيمي.
