أعلنت OpenAI عن إطلاق أداة AgentKit لبناء ونشر وكلاء الذكاء الاصطناعي بسرعة، ثم أوردت تقارير حول تعطيل مزيد من الحسابات المرتبطة بممارسات مراقبة ونشر محتوى ضار في الصين، في إطار جهودها المستمرة لمكافحة الاستغلال ووسائل التأثير الإلكتروني.
جهود OpenAI في مكافحة الاستغلال والأنشطة المرتبطة بالذكاء الاصطناعي
أعلنت OpenAI عن تعطيل مزيد من الحسابات التي نشأت في الصين وكانت تستخدم نماذجها اللغوية الكبيرة، مثل ChatGPT، في جهود مراقبة وسائل التواصل الاجتماعي والأنشطة المرتبطة بها.
في إحدى الحالات المحددة، أوضحت الشركة أن أحد الحسابات المحظورة كان يستخدم البرنامج للمساعدة في صياغة مواد ترويجية وخطط عمل لأداة استماع تهدف إلى الزحف على منصات مثل X وفيسبوك وإنستغرام وريديت وتيك توك ويوتيوب.
كان الهدف من هذه الأداة البحث عن محتوى سياسي أو عرقي أو ديني محدد، ويُعتقد أن هذا العمل كان لصالح عميل حكومي صيني، رغم أن OpenAI لم تتمكن من التحقق بشكل مستقل من ذلك.
ولم تقتصر المخاطر على المراقبة العامة فحسب؛ فحُظر حساب كان يُستخدم لتطوير مقترح أداة تُوصف بأنها “نموذج تحذير من تدفقات عالية الخطورة مرتبطة بالأويغور”، وكان الهدف منها تتبع تحركات الأفراد المرتبطين بالأويغور، وهو ما يتسق مع الاتهامات الحقوقية الموجهة للصين.
كشفت OpenAI كذلك عن ضبط مطورين يتحدثون الروسية والكورية والصينية يستغلون ChatGPT لتطوير برمجيات خبيثة، كما تم تعطيل شبكات كاملة في كمبوديا وميانمار ونيجيريا كانت تستخدم الذكاء الاصطناعي لإنشاء عمليات احتيال منظَّمة.
وتستمر OpenAI في نشر تقارير التهديدات كجزء من جهودها، مشيرة إلى أن الصيف شهد تعطيل عمليات في عدد من الدول التي استُخدم فيها ChatGPT لدعم حملات تأثير إلكتروني عبر محتوى مولَّد بالذكاء الاصطناعي لنشر منشورات وتعليقات تهدف إلى إثارة الانقسام والتفاعل محليًا وعالميًا.
مع ذلك، تؤكد الشركة أن معدل استخدام ChatGPT في الكشف عن الاحتيال يعادل ثلاثة أضعاف معدل استخدامه في إنشائه.
