إزالة ملخصات الذكاء الاصطناعي التي تحتوي معلومات صحية مضللة
أظهرت نتائج تحقيق الجارديان أن جوجل أزالت ملخصات ذكاء اصطناعي توليدية كانت تتضمن معلومات صحية مضللة ضمن نتائج البحث العلوية.
وأوضحت النتائج أن بعض هذه الملخصات التي تظهر كلمحة سريعة وصاحبة طابع “موثوق” قد تتضمن أرقاماً غير دقيقة وتقديماً للمعلومات دون سياق كافٍ أو مراعاة لخصوصيات المرضى من حيث الجنس أو العمر أو العِرق.
ووصفت الصحيفة حالة تعتبر من قبل الخبراء خطيرة، إذ قدمت جوجل معلومات مضللة حول اختبارات وظائف الكبد الحاسمة ما قد يجعل المصابين أمراض كبد يبحثون عن أرقام غير مناسبة لواقع حالاتهم.
إذ أشارت إلى أن كتابة عبارة “ما هو النطاق الطبيعي لاختبارات الدم للكبد” أدت إلى ظهور كميات ضخمة من الأرقام بلا سياق كافٍ، مع إغفال اعتبار صفات المرضى وتنوعهم.
قال خبراء إن ما تسميه المراجعات الذكاء الاصطناعي في جوجل بأنه “طبيعي” قد يختلف جذرياً عما يعتبر طبيعياً في الواقع، ما قد يدفع المرضى المصابين بأمراض خطيرة إلى الاعتقاد بأن نتائج فحوصاتهم طبيعية رغم وجود حاجة لمتابعة طبية دقيقة.
بعد التحقيق، أزالت جوجل ملخصات الذكاء الاصطناعي المرتبطة بعبارات مثل “ما هو النطاق الطبيعي لاختبارات الدم للكبد” و“ما هو النطاق الطبيعي لاختبارات وظائف الكبد”.
قالت جوجل إنه لا يتم التعليق على عمليات الحذف الفردية في البحث، وإنه في حالات افتقار مراجعات الذكاء الاصطناعي للسياق يتم إجراء تحسينات واسعة، وتطبيق إجراءات بموجب سياسات المنصة عند الحاجة.
علّقت فانيسا هيبديتش، المديرة في مؤسسة British Liver Trust الخيرية المعنية بصحة الكبد، بأن إزالة هذه الملخصات خطوة ممتازة، لكنها حذّرت من أن وجود عناوين مشابهة قد يطرح أشكالاً أخرى من المعلومات غير الدقيقة والمربكة، وأن معلومات الذكاء الاصطناعي الصحية لا تزال عرضة للخطر.
ورأت الجارديان أن كتابة عبارات مشابهة للاستفسارات الأصلية في جوجل، مثل “نطاق مرجعي لاختبار وظائف الكبد”، تؤدي إلى ظهور ملخصات الذكاء الاصطناعي، وأكدت هيبديتش أن فحص وظائف الكبد هو مجموعة من تحاليل الدم المتنوعة، وأن فهم النتائج وما يجب فعله بعد ذلك أمر أكثر تعقيداً من مجرد مقارنة أرقام.
وأوضحت أن خدمة ملخصات الذكاء الاصطناعي تعرض قائمة الاختبارات بخط عريض، مما يسهل تجاهل أن الأرقام قد لا تكون صحيحة بالنسبة لاختبار الشخص المعين، وأن التطمين بأن النتائج طبيعية قد يكون مضراً في حالات أمراض الكبد الخطيرة، إذ قد يتطلب الأمر متابعة طبية مستمرة وعناية إضافية.
