التحديثات والجدل حول Grok لتعديل الصور
أعلن ماسك عن تحديثات جديدة في Grok تقيد تعديل صور أشخاص حقيقيين وعرضهم بملابس كاشفة أو في أوضاع غير مناسبة، مع السماح بإنتاج محتوى مشابه عند استخدام شخصيات افتراضية فقط.
أوضح أن المعايير تتبع معيار المحتوى المخصص للبالغين السائد في الولايات المتحدة، وأن السماح لبعض أشكال المحتوى عند استخدام شخصيات افتراضية ينسجم مع التصنيفات الخاصة بالأفلام للكبار، مع التنبيه بأن القواعد قد تختلف من بلد إلى آخر وفق القوانين المحلية.
بدأ الجدل من منشور على منصة X نشره حساب DogeDesigner القريب من ماسك، الذي ادعى أنه حاول استخدام أوامر للحصول على صور مخالفة عبر Grok فشلت في كل مرة، واعتبر الأمر تقارير إعلامية كـ”هجوم” مستمر.
رد ماسك علنًا بتحدٍ قائلاً: “هل يستطيع أي شخص فعليًا كسر نظام الإشراف على الصور في Grok؟” ودعا المطالبين إلى الردود.
وضح ما هو المسموح والممنوع عندما شرح ماسك أن Grok، عند تفعيل إعدادات المحتوى المخصص للكبار، قد يسمح ببعض التعديلات على شخصيات افتراضية وبما يتوافق مع معايير الأعمال السينمائية للكبار، مع الإشارة إلى أن القوانين المحلية قد تغيّر القواعد من بلد لآخر.
تدخّلت تغييرات هادئة في طريقة عمل Grok مع تزايد التدقيق على انتشار صور مسيئة، حيث بدأت المنصة في تعديل طريقة تعامل Grok مع الصور التي تشمل أشخاصًا حقيقيين، فظهرت نتائج محجوبة أو مشوشة في أوامر كانت تعمل سابقًا.
أكّدت منصة X رسميًا عبر حساب السلامة أنها طبّقت إجراءات تقنية تمنع Grok من تعديل صور أشخاص حقيقيين وإظهارهم بملابس كاشفة مثل ملابس البحر، وتطبق القيود على جميع المستخدمين بما في ذلك المشتركين المدفوعين.
نقلت تقارير إعلامية أن القيود تبدو صارمة على الورق، لكنها غير متساوية في التطبيق، فاختبارات The Verge أظهرت أن بعض الأوامر المحظورة لم تتجاوب مع القيود، بينما ظلّت أوامر أخرى معدلة تقترب من النتائج المحظورة رغم المنع.
أشارت التقارير إلى أن الطلبات المباشرة مثل تغيير الملابس أو إزالة أجزاء منها تؤدي إلى نتائج محجوبة، بينما تظل أوامر غير مباشرة تسمح بإنتاج صور قريبة من المحظور، ما يجعل التقيُّد فعليًا قابلًا للالتفاف في بعض الحالات.
وثّقت الاختبارات أن القيود لا تقتصر على الحسابات المدفوعة، بل يمكن للمستخدمين المجانيين تنفيذ تعديلات عبر Grok، مع ظهور نافذة تحقق من العمر أحيانًا لكنها كانت سهلة التجاوز عبر إدخال سنة ميلاد فقط وبدون إثبات فعلي، وفي كثير من الحالات لم تظهر خطوة تحقق أصلاً.
وتباينت النتائج أيضًا في الحالات المختلفة، فبينما تقيد بعض التعديلات المرتبطة بالنساء، يظل Grok يتعامل بمرونة مع طلبات وضع رجال أو أجسام غير حية في وضع كاشف عن ملابس البحر في بعض الاختبارات.
وذكر تقرير أن إحدى الاختبارات استجاب Grok لطلب تعديل صورة لرجل بطريقة مثيرة باستخدام حساب مجاني دون عوائق واضحة، وهو ما يثير القلق من فاعلية القيود المفروضة.
حمّل ماسك X والمنصّة ومسؤولو xAI المستخدمين المسؤولية عن الثغرات، وأشاروا إلى أن بعض المحتوى المخالف ينتج عن طلبات المستخدمين أو محاولات التحايل على الأوامر، وأن هذه الحالات تُعالج عند اكتشافها.
