نشرَت صحيفة الجارديان تحقيقاً يكشف أن جوجل أزالت ملخصات الذكاء الاصطناعي الصحية التي كانت تحتوي معلومات صحية مضللة أو غير دقيقة.
تستخدم ملخصات الذكاء الاصطناعي المعروفة بنظرة عامة على الذكاء الاصطناعي أو Google AI Overviews لإعطاء لمحات سريعة عن معلومات أساسية حول موضوع ما، وتُوصف بأنها “مفيدة” و”موثوقة” وفقاً لما تقوله جوجل.
لكن التحقيق أظهر أن بعض الملخصات التي تظهر في أعلى نتائج البحث قدمت معلومات صحية غير دقيقة، مما يعرض المستخدمين لخطر الضرر.
معلومات صحية خاطئة تثير القلق
في إحدى الحالات التي وُصفت بأنها “خطيرة” و”مقلقة” من قبل الخبراء، وردت معلومات زائفة حول اختبارات وظائف الكبد الحاسمة لتقييم صحة المصابين بمرض كبدي خطير، وهو ما قد يجعل البعض يظنون أنهم في وضع صحي جيد بينما هم في خطر.
وجدت الجارديان أن كتابة عبارة “ما هو النطاق الطبيعي لاختبارات الدم للكبد” أدت إلى ظهور أعداد هائلة من الأرقام، مع قليل من السياق وعدم مراعاة جنس المرضى أو عرقهم أو أعمارهم.
أوضح الخبراء أن ما تصفه تقارير الذكاء الاصطناعي من جوجل بأنه “طبيعي” قد يختلف جذرياً عن الواقع، وأن هذه الملخصات قد تقود المرضى إلى الاعتقاد بأن نتائج فحوصاتهم طبيعية بينما قد تكون هناك مشاكل خطيرة تحتاج متابعة طبية إضافية.
المعلومات التي جرى حذفها
بعد التحقيق، قامت جوجل بإزالة ملخصات الذكاء الاصطناعي لعبارات البحث “ما هو النطاق الطبيعي لاختبارات الدم للكبد” و”ما هو النطاق الطبيعي لاختبارات وظائف الكبد”.
قال متحدث باسم جوجل: “لا نعلق على عمليات الحذف الفردية داخل البحث، وفي الحالات التي تفتقر مراجعات الذكاء الاصطناعي إلى السياق الكافي، نعمل على تحسينات شاملة، ونتخذ إجراءات وفق سياساتنا عند الاقتضاء.”
قالت فانيسا هيبديتش، مديرة الاتصالات والسياسات في مؤسسة British Liver Trust الخيرية المعنية بصحة الكبد: “هذه أخبار ممتازة، ويسعدنا أن نرى إزالة Google AI Overviews في هذه الحالات”، وأضافت: “مع ذلك، إذا طُرِح السؤال بطريقة مختلفة، فقد يتم تقديم نظرة عامة مضللة محتملة عن الذكاء الاصطناعي، وما زلنا نشعر بالقلق من أن المعلومات الصحية الأخرى التي ينتجها الذكاء الاصطناعي قد تكون غير دقيقة ومربكة.”
وجدت الصحيفة أن كتابة عبارات مشابهة قليلاً للاستعلامات الأصلية في جوجل، مثل “نطاق مرجعي لاختبار LFT” أو “نطاق مرجعي لاختبار LFT”، يؤدي إلى ظهور نتائج مراجعات الذكاء الاصطناعي، وقالت هيبديتش إن هذا يثير قلقاً بالغاً، موضحة أن فحوص الكبد هي مجموعة من تحاليل الدم المختلفة.
وأضافت أن خدمة نظرة عامة على الذكاء الاصطناعي تعرض قائمة بالاختبارات بخط عريض، مما يجعل من السهل على القراء فهم أن هذه الأرقام هي النتائج الصحيحة لفحصهم، بينما في الواقع قد لا تكون كذلك. كما أن المراجعات لا تحذر من أن الشخص قد يحصل على نتائج طبيعية لهذه الاختبارات بينما يعاني من مرض كبدي خطير ويحتاج إلى رعاية إضافية، وهو تطمين قد يكون ضاراً للغاية.
وأشارت إلى أن الاعتماد على “نظرة عامة” قد يؤدي إلى الاعتماد على معلومات قد تكون غير دقيقة، وأن فهم النتائج والإجراءات التالية يتطلب أكثر من مجرد مقارنة الأرقام.
