أعلنت شركة أوبن أي آي أنها ستفرض قيوداً على كيفية استجابة تشات جي بي تي للمستخدمين الذين يُشتبه بأنهم دون 18 عاماً، وذلك عقب دعوى قضائية رفعتها عائلة مراهق يبلغ من العمر 16 عاماً أقدم على الانتحار في أبريل الماضي، عقب أشهر من محادثات مع روبوت الدردشة تشات جي بي تي.
إجراءات جديدة لحماية القاصرين
وذكر الرئيس التنفيذي للشركة سام ألتمان في تدوينة أن الأولوية ستكون للسلامة قبل الخصوصية والحرية بالنسبة للمراهقين، مؤكداً أن القُصَّر بحاجة إلى حماية كبيرة.
وأوضح أن الشركة ستبني نظاماً للتنبؤ بالعمر يقدّر عمر المستخدم اعتماداً على طريقة استخدامه للتطبيق.
وإذا كان هناك شك لدى التطبيق، فسيُفرض أن التجربة تخص من هم دون 18 عاماً.
وأشار إلى أن في بعض المستخدمين أو البلدان، قد يُطلب منهم أيضاً تقديم بطاقة هوية للتحقق من أعمارهم.
وأكد أن طريقة استجابة تشات جي بي تي للحسابات المصنفة على أنها أقل من 18 عاماً ستتغير، إذ سيتم حظر المحتوى الجنسي الصريح، كما سيتم تدريب روبوت الدردشة على عدم المغازلة إذا طُلب منه ذلك من قبل مستخدمين قُصَّر، ولن يشارك في نقاشات حول الانتحار أو إيذاء النفس حتى في سياقات الكتابة الإبداعية.
وتابع: “إذا أبدى مستخدم دون 18 عاماً ميولاً انتحارية، فسنسعى للتواصل مع والديه، وإذا تعذر ذلك، فسنخاطب السلطات في حال وجود خطر وشيك”، حسبما نقلت صحيفة ذا غارديان البريطانية.
وتزعم عائلة المراهق أن نسخة من تطبيق تشات جي بي تي قدّمت له إرشادات حول الطريقة التي اختارها لإنهاء حياته، كما عرض مساعدته في كتابة رسالة انتحار لوالديه.
وأفادت وثائق الدعوى أن المراهق تبادل مع تشات جي بي تي ما يصل إلى 650 رسالة يومياً، وفقاً لسكاي نيوز.
