أظهرت نتائج تحقيق الغارديان أن ملخصات جوجل المدعومة بالذكاء الاصطناعي تصدّرت نتائج البحث المرتبطة بالصحة، لكنها في أوقات كثيرة قدمت معلومات صحية غير دقيقة وعرضت الناس للخطر.
وقد رصدت الصحيفة أمثلة أظهرت أن ملخصات AI Overviews تعطي لمحات سريعة عن أساسيات موضوع ما لكنها تحمل مخاطر لأنها قد تكون مضللة، فمثلاً نُشرت أمثلة أشارت إلى أن مرضى سرطان البنكرياس ينبغي عليهم تجنّب الأطعمة الغنية بالدهون، وهو توجيه يعتبره الخبراء خطأً تماماً وقد يزيد خطر فشل العلاج أو الوفاة إذا اتبعه المرضى. كما ظهرت أمثلة أخرى عن معلومات مضللة تخص فحوصات وظائف الكبد الحاسمة، ما يجعل مرضى الكبد المصابين بخطورة عالية يظنون أنهم في صحة جيدة.
وعندما بحثت جوجل عن فحوصات سرطان النساء ووجدت إجابات، ظهرت نتائج وُصفت بأنها “خاطئة تماماً”، وهو ما قد يدفع الناس لتجاهل أعراض حقيقية حسبما حذر الخبراء. وقال متحدث باسم جوجل إن العديد من الأمثلة الصحية التي شاركوها كانت «لقطات شاشة غير مكتملة»، لكن من التقييم الذي توصلوا إليه فقد أشارت النتائج إلى مصادر معروفة وموثوقة وتوجيهها لطلب استشارة الخبراء.
مخاوف من تضليل المستخدمين
وفي ظل هذه المخاوف، أشار خبراء إلى أن بيانات الذكاء الاصطناعي قد تضلل المستخدمين الذين يفترضون موثوقيتها، وهو ما يُطرح كموضوع قلق واسع في المشهد الصحي الرقمي. قالت صوفي راندال، مديرة منتدى معلومات المرضى المعني بنشر المعلومات الصحية المعتمدة، إن الأمثلة تُظهر أن ملخصات جوجل المعتمدة على الذكاء الاصطناعي قد تضع معلومات صحية غير دقيقة في مقدمة نتائج البحث، وهو ما يُعرِّض صحة الناس للخطر.
وأوضحت ستيفاني باركر، مديرة التسويق الرقمي في مؤسسة ماري كوري الخيرية المعنية بالرعاية الصحية في مراحلها الأخيرة، أن الناس يلجأون إلى الإنترنت في لحظات القلق، وإذا كانت المعلومات غير دقيقة أو خارج سياقها قد تتسبب في ضرر جسيم لصحتهم، وذكرت الصحيفة أن عدة حالات أُشير إليها كانت مرتبطة بملخصات AI Overviews، مع دعوات من جمعيات صحية وخيرية إلى مخاوف من طريقة عرض النتائج. كما أشارت آنا جويل، مديرة الدعم والبحث والتأثير في مؤسسة سرطان البنكرياس في المملكة المتحدة، إلى أن حث المرضى على تجنّب الدهون ليس صحيحاً إطلاقاً، وأن اتباعه قد يمنع المرضى من الحصول على السعرات اللازمة ويدفعهم إلى تعقيد مسار العلاج أو العلاج الكيميائي والجراحة التي قد تكون منقذة.
ملخصات AI OVERVIEWS
وعندما اختبرت أسئلة مثل «ما المعدل الطبيعي لنتائج تحاليل الدم للكبد؟»، ظهرت أعداد كثيرة من الأرقام مع سياقات قليلة، وبغياب مراعاة جنسية المريض أو عمره أو عرقه. وقالت باميلا هيلي، الرئيسة التنفيذية لمؤسسة الكبد البريطانية، إن ملخصات الذكاء الاصطناعي تثير القلق لأنها قد لا تعكس الواقع الطبي المتعارف عليه، ما يجعل بعض مرضى الكبد الحاد يظنون أن نتائجهم طبيعية ويفوّتون متابعة الرعاية اللازمة.
وأظهر بحث محدد حول أعراض سرطان المهبل وفحوصاته أن مسحة عنق الرحم قد صُمِّمت كفحص لسرطان المهبل، وهو أمر غير صحيح. وردت أثينا لامنيسوس، الرئيسة التنفيذية لمؤسسة إيف أبيل الخيرية لمكافحة السرطان، بأن هذا الفحص ليس للكشف عن سرطان المهبل، ولا يمكن الاعتماد عليه كفحص عشوائي للمهبل، وحذرت من أن وجود نتائج مختلفة عند البحث نفسه يربك المستخدمين ويعطي إجابات غير موثوقة عند كل بحث، وهو أمر غير مقبول بشكل عام في تقديم المعلومات الصحية عبر الإنترنت. كما أشار ستيفن باكلي، رئيس قسم المعلومات في مؤسسة Mind الخيرية، إلى أن بعض ملخصات الذكاء الاصطناعي لحالات مثل الذهان واضطرابات الأكل تقدم نصائح خطرة وتفتقد للسياق أو التفاصيل الدقيقة، وهو ما قد يدفع الأشخاص للامتناع عن طلب المساعدة أو الوصول إلى معلومات من مصادر غير مناسبة، مع ملاحظة أن هذه الملخصات غالباً ما تعكس تحيزات أو أنماط سردية موجودة مسبقاً في المحتوى الإلكتروني.
وأكدت جوجل أن الأغلبية العليا من ملخصات AI Overviews دقيقة ومفيدة، وأن الشركة تعمل باستمرار على تحسين جودتها وتدعي أن معدل دقة هذه الملخصات يوازي دقة مميزات البحث الأخرى لديها مثل المقتطفات المميزة، التي كانت جزءاً من تجربة البحث منذ أكثر من عقد. وأكدت جوجل أنها ستتخذ الإجراءات المناسبة وفقاً لسياساتها إذا أساءت ملخصات الذكاء الاصطناعي تفسير محتوى الويب أو أغفلت السياق، وقال متحدث باسم الشركة: «نستثمر بشكل كبير في جودة ملخصات الذكاء الاصطناعي، خاصة في الموضوعات الصحية، ومعظمها يقدم معلومات دقيقة.»
