أوضح بنجامين زويبيل، عميل خاص في فرقة جرائم الإنترنت، خلال شهادته في الدعوى المرفوعة ضد Meta أن المحققين يتلقون تقارير تفتقر إلى معلومات أساسية تمكّنهم من التحرك، وأن نمط الأخطاء يشير إلى اعتماد واسع على الذكاء الاصطناعي دون مراجعة بشرية كافية.
اتهم الادعاء العام في نيو مكسيكو Meta بتقديم الأرباح على سلامة الأطفال، فيما نفت الشركة هذه الاتهامات وأكدت تعزيز أدوات الحماية لديها، بما في ذلك إعدادات أمان افتراضية لحسابات المراهقين، وتعاونها المستمر مع جهات إنفاذ القانون.
قال ضباط ICAC إن Meta ترسل آلاف البلاغات شهرياً، وإن عدد البلاغات الإلكترونية تضاعف بين 2024 و2025، لكن المشكلة ليست في العدد فحسب بل في الجودة، فبعض البلاغات لا يتضمن سلوكاً إجرامياً، وفي حالات أخرى تشير التقارير إلى احتمال وقوع جريمة لكن الصور أو المقاطع أو النصوص الضرورية تكون محذوفة أو غير متاحة، كما أشاروا إلى أن الارتفاع الملحوظ في البلاغات غير القابلة للتنفيذ جاء خصوصاً من إنستجرام.
بحسب بيانات 2024، قدمت Meta نحو 13.8 مليون بلاغ إلى المركز الوطني للأطفال المفقودين والمستغلين NCMEC من أصل 20.5 مليون بلاغ تلقاها المركز إجمالاً، وهو يحيل هذه البلاغات إلى جهات إنفاذ القانون، لكنه لا يملك سلطة تصفية البلاغات غير القابلة للتنفيذ قبل الإرسال، ما يعني أن عبء الفرز يقع بالكامل على المحققين.
وثائق داخلية عُرضت في القضية أظهرت أن مسؤولي Meta حذروا في 2019 من أن تفعيل التشفير التام بين الطرفين في فيسبوك ماسنجر قد يعيق اكتشاف استغلال الأطفال، ورغم هذه المخاوف، جرى تطبيق التشفير لاحقاً في 2023؛ وتقول Meta إنها طورت أدوات أمان تعمل حتى داخل المحادثات المشفرة، فيما أشار المحققون إلى أن البلاغات التي يولدها الذكاء الاصطناعي دون مراجعة بشرية قد تتطلب أوامر قضائية إضافية لفتحها، ما يضيف وقتاً وإجراءات قانونية تبطئ التحقيقات.
مع دخول قانون Report Act حيز التنفيذ في نوفمبر 2024، توسّعت التزامات الإبلاغ لتشمل حالات الاستغلال المخطط أو الوشيك، وقال ضباط ICAC إن عدد البلاغات غير القابلة للتنفيذ ارتفع بشكل كبير بعد تطبيق القانون، وربما يعود ذلك إلى حرص الشركات على تجنّب المخالفة.
كل بلاغ يجب مراجعته، بحسب التقرير، وهذا التدفق الكبير من التقارير غير المجدية يسحب الوقت والموارد من القضايا الحقيقية، ويضع الفرق تحت ضغط مستمر، في حين لا يتوافر عدد كافٍ من الأفراد لمواكبة هذا السيل المتزايد.
