أدخلت شركة ميتا تعديلات على إرشادات تشغيل روبوتات المحادثة المعتمدة على الذكاء الاصطناعي بهدف منع المحادثات غير اللائقة مع الأطفال والحد من مخاطر الاستغلال الجنسي عبر هذه المنصات.
ووفقًا لموقع بزنس إنسايدر، فقد وصلته نسخة من الوثائق التي يستخدمها المتعاقدون مع ميتا حاليًا لتدريب روبوتات المحادثة، والتي توضّح كيفية التعامل مع القضايا المرتبطة بحماية الأطفال من المحادثات غير الملائمة.
وكانت الشركة قد أعلنت في أغسطس الماضي أنها بصدد تحديث هذه الضوابط بعد تقرير من وكالة رويترز أشار إلى أن سياساتها السابقة كانت تسمح نظريًا بأن تخوض الروبوتات في “محادثات رومانسية أو حسية” مع الأطفال، وهو ما نفت ميتا صحتة واعتبرته خاطئًا ومخالفًا لسياساتها وأزالت تلك الصياغة من إرشاداتها.
تفاصيل الإرشادات الجديدة
وتحدد الوثيقة أنواع المحتوى المقبول وغير المقبول للروبوتات، فهي تحظر بشكل صريح أي محتوى قد “يمكن أو يشجع أو يبرر” الاعتداء الجنسي على الأطفال.
كما تمنع تمامًا المشاركة في أدوار تمثيلية ذات طابع رومانسي إذا كان المستخدم قاصرًا، أو إذا طلب من الروبوت أن يؤدي دور قاصر.
كذلك يحظر تقديم أي نصائح تتعلق باتصالات جسدية ذات طبيعة رومانسية، ومع ذلك تسمح الإرشادات للروبوتات بمناقشة مواضيع مثل العنف أو الإساءة، لكن فقط في إطار توعوي، ومن دون الدخول في أي محادثات قد تفهم على أنها تشجيع أو تمكين لمثل هذه الممارسات.
وتأتي هذه الخطوة في ظل تزايد المخاوف المرتبطة بتأثير روبوتات الدردشة على الأطفال. ففي أغسطس الماضي أعلنت لجنة التجارة الفيدرالية الأمريكية فتح تحقيق رسمي لا يشمل روبوتات ميتا فحسب، بل أيضًا منتجات من شركات كبرى أخرى مثل ألفابت وسناب وأوبن أيه آي وإكس.إيه آي.
