ملخص التحقيق حول ملخصات جوجل المدعومة بالذكاء الاصطناعي في المجال الصحي
كشف تحقيق صحيفة الجارديان أن ملخصات الذكاء الاصطناعي التي تقدمها جوجل، المعروفة بـ AI Overviews، قد تضع قرّاءها في مواجهة معلومات صحية غير دقيقة ومضللة عندما تظهر في مقدمة نتائج البحث كمختصرات سريعة عن الموضوعات الصحية، وهو ما يعرض الصحة للخطر في حال الاعتماد عليها دون استشارة خبراء.
أبرز الأمثلة التي وردت في التحقيق تبين أن نتائج الملخصات قد توجّه مرضى سرطان البنكرياس لتجنب الأطعمة الغنية بالدهون، وهو توجيه يتعارض مع التوصيات الطبية ويؤثر في قدرة المرضى على الحفاظ على الوزن والتعامل مع العلاج، وهو ما أكّدته مديرة مؤسسة سرطان البنكرياس في المملكة المتحدة بأن هذا التوجيه خاطئ تماماً ويمكن أن يعرّض حياة المرضى للخطر.
كما أظهرت الأمثلة معلومات مضللة حول فحوصات وظائف الكبد وكيفية تفسير نتائجها، ما قد يجعل مرضى الكبد في حالات خطرة يعتقدون أنهم في صحة جيدة، وهي نتيجة خطيرة تتطلب سياقاً طبياً دقيقاً وتفسيراً مهنياً للنتائج.
وأشارت الأمثلة إلى معلومات خاطئة حول فحوص سرطان النساء، حيث وُصِفَت نتائج البحث بأنها تُقَدِّم فحصاً لمسألة سرطان المهبل عبر فحص مسحة عنق الرحم، وهو أمر غير صحيح تماماً ويؤدي إلى سلوك خاطئ قد يفوت علامات المرض أو يعقد متابعتها.
أثارت هذه الحالات مخاوف من تضليل المستخدمين، حيث أكّد خبراء وأن أمثلة الصحة التي شاركوها مع جوجل جاءت غالباً كقطات شاشة غير مكتملة وتفتقر للسياق، بينما أشارت جوجل إلى أن أمثلة النتائج تعتمد على مصادر معروفة وتوصي بالاستشارة من الخبراء عند وجود تضارب أو نقص في السياق.
قالت صوفي راندال، مديرة منتدى معلومات المرضى، إن الأمثلة تُظهر أن ملخصات جوجل المدعومة بالذكاء الاصطناعي قد تضع معلومات صحية غير دقيقة في مقدمة نتائج البحث، وهو أمر يحمل مخاطر كبيرة على صحة الناس، بينما حذّرت مؤسسات صحية وخيرية من أن الاعتماد على هذه الملخصات دون توخي الحذر قد يؤدي إلى نتائج خطرة على المرضى.
وأشار خبراء إلى أن بعض الملخصات الخاصة بحالات مثل الذهان واضطرابات الأكل قد تقدم نصائح خطيرة وتفتقر للسياق أو التفاصيل الدقيقة الضرورية، وهو ما قد يدفع بعض الأفراد إلى عدم طلب المساعدة أو اللجوء إلى مصادر غير مناسبة للمعالجة، وهو ما يعكس مخاوف من تحيزات أو قوالب نمطية قد تظهر في الملخصات.
أكدت جوجل أن الغالبية العظمى من ملخصاتها دقيقة وفائدة، وأنها تعمل باستمرار على تحسين جودتها، وتؤكد أن دقة هذه الملخصات تقارن بدقة ميزات البحث الأخرى لديها، وتقول إنها ستتخذ الإجراءات المناسبة وفق سياساتها إذا أساءت ملخصات الذكاء الاصطناعي تفسير المحتوى أو أغفلت السياق، وتؤكد أنها تستثمر بشكل كبير في جودة الملخصات خاصة في موضوعات الصحة.
