تظهر نتائج تحقيق صحيفة الغارديان أن ملخصات جوجل المدعومة بالذكاء الاصطناعي قد تستخدم في تقديم معلومات صحية على شكل لمحات سريعة، لكنها أظهرت في بعض الحالات معلومات غير دقيقة تعرض المستخدمين للخطر، خصوصاً عندما تكون النتائج في مواضيع حساسة مثل السرطان والكبد والصحة النفسية.
وتؤكد الصحيفة أن بعض أمثلة الملخصات أظهرت نصائح صحية مضللة، فمثلاً أشارت استجابات الذكاء الاصطناعي إلى تجنب أطعمة غنية بالدهون لمرضى سرطان البنكرياس، وهو أمر غير صحيح وقد يكون خطيراً لأنه قد يمنع المرضى من الحصول على السعرات اللازمة لدعم العلاج والتعافي، وهو ما أثبتته الشهادات التي جمعتها الصحيفة من خبراء ومؤسسات صحية.
وعرض التحقيق أن ردود الملخصات حول فحوصات وظائف الكبد جاءت بمعلومات مضللة حول ما يعتبره الذكاء الاصطناعي “طبيعيًا” من نتائج التحاليل، وهو أمر قد يختلف بشكل كبير عن الواقع، ما يجعل بعض مرضى الكبد الحاد يظنون أن نتائجهم طبيعية ويغفلون عن متابعة الرعاية اللازمة؛ كما أشار إلى خطأ في تفسير فحص سرطان المهبل عند حديثات عن فحص عنق الرحم كمؤشر للكشف عن سرطان المهبل، وهو تحذير يثير مخاطر عدم الاكتشاف المبكر للأعراض.
ملخصات AI OVERVIEWS وتفسيراتها في أسئلة صحية
يُذكر أن بعض أسئلة مثل “ما هو المعدل الطبيعي لنتائج تحاليل الدم الخاصة بالكبد؟” أعطت معلومات مضللة مع أرقام كثيرة وتفاصيل قليلة وبدون مراعاة خصوصيات المريض من بلد أو عمر أو جنس، وهو ما رفع القلق من أن ملخصات الذكاء الاصطناعي قد تقدّم توقعات غير دقيقة وتفقد السياق الضروري للمريض، وهو ما حذرت منه منظمات خيرية وهيئات صحية أثناء مراجعة النتائج.
وقالت قيادات في مؤسسات صحية خيرية إن وجود أخطاء في ملخصات ذكاء اصطناعي تتعلق بفحص أعراض سرطان المهبل وتفاوت النتائج بحسب وقت البحث يثير قلقاً خاصاً، كما أشارت إلى أن بعض الملخصات تقدم معلومات عن حالات مثل الذهان واضطرابات الأكل وتوجيهات قد تكون خطيرة أو قد تدفع الناس إلى التراجع عن طلب المساعدة، مع الإشارة إلى أن هذه الملخصات أحياناً تفقد السياق أو تفترض مصادر غير مناسبة للمعلومات.
وأوضحت جوجل أن الغالبية العظمى من ملخصاتها دقيقة وذات فائدة، وتتابع تحسين جودتها باستمرار، مؤكدة أن معدل دقة ملخصاتها يقارب دقة الميزات الأخرى في البحث مثل المقتطفات المميزة، وأكدت أنها ستتخذ الإجراءات اللازمة وفق سياساتها إذا أساءت الملخصات تفسير المحتوى أو أغفلت السياق، وأنها تستثمر بشكل كبير في جودة ملخصات الذكاء الاصطناعي خاصة في مواضيع الصحة مع التأكيد أن غالبية الملخصات تقدم معلومات دقيقة.
