Home طب وصحة تقرير يحذر من أن أبحاث الذكاء الاصطناعي تقدم معلومات صحية مضللة

تقرير يحذر من أن أبحاث الذكاء الاصطناعي تقدم معلومات صحية مضللة

0
تقرير يحذر من أن أبحاث الذكاء الاصطناعي تقدم معلومات صحية مضللة

تحذير من ملخصات الذكاء الاصطناعي في الصحة

أظهرت تقارير الجارديان أن ملخصات الذكاء الاصطناعي التي تقدمها جوجل قد تكون مفيدة لكنها قد تنقل معلومات صحية مضللة وتعرّض الناس للأذى عند الاعتماد عليها دون تحقق.

تشير أمثلة التحقيق إلى حالات خطيرة، منها توجيه نتائج البحث لمرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون، وهي نصيحة تخالف ما ينبغي التوصية به وقد تزيد من خطر الوفاة.

وفي مثال آخر، أفادت نتائج البحث معلومات غير دقيقة عن اختبارات وظائف الكبد، ما يجعل مرضى الكبد يظنون أنهم بصحة جيدة.

قالت آنا جويل، المديرة في مؤسسة سرطان البنكرياس بالمملكة المتحدة، إن النصح بتجنب الدهون أمر خاطئ تماماً وقد يعرض فرص التعافي للخطر، مع أنها قد تقود إلى نقص السعرات أو صعوبات في تحمل العلاج الكيميائي أو الجراحة.

وأوضحت أن استجابة الذكاء الاصطناعي تشير إلى أن مرضى سرطان البنكرياس يتجنبون الدهون، لكن اتباع ما تقوله النتائج قد يحرمهم من سعرات كافية ويعيق زيادة الوزن وتحمّل العلاج الكيميائي أو الجراحة.

وقالت باميلا هيلي، الرئيسة التنفيذية لمؤسسة الكبد البريطانية، إن ملخصات الذكاء الاصطناعي مثيرة للقلق؛ فالكبد غالباً لا يظهر أعراض في المراحل المبكرة، لذا من المهم إجراء فحص، لكن ما يعتبره التقرير «طبيعيًا» قد يختلف كثيراً عن الواقع.

وأوضح أن هذا الأمر خطير لأنه يجعل بعض المرضى المصابين بأمراض الكبد المتقدمة يظنون أن نتائجهم طبيعية، وبالتالي لا يكلفون أنفسهم عناء حضور متابعة الرعاية الصحية.

يأتي التحقيق في سياق مخاوف من أن بيانات الذكاء الاصطناعي قد تضلل المستهلكين الذين قد يفترضون موثوقيتها، كما كشفت دراسة في نوفمبر أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي عبر منصات متعددة تقدم نصائح مالية غير دقيقة، وتُثار مخاوف مماثلة بشأن ملخصات الأخبار.

قالت صوفي راندال، مديرة منتدى معلومات المرضى، إن أمثلة الجارديان أظهرت أن «نظرة عامة الذكاء الاصطناعي من جوجل» يمكن أن تضع معلومات صحية غير دقيقة في أعلى نتائج البحث، ما يشكل خطرًا على صحة الناس.

قالت ستيفاني باركر، مديرة قسم الإعلام الرقمي في مؤسسة ماري كوري الخيرية المعنية برعاية المرضى في نهاية حياتهم: إن الناس يلجأون إلى الإنترنت في لحظات القلق والأزمات، وإذا كانت المعلومات غير دقيقة أو خارج سياقها فقد تضر صحتهم بشدة.

كما وجدت الجارديان أن خدمة «نظرة عامة على الذكاء الاصطناعي من جوجل» تقدم نتائج مضللة لبحوث تتعلق بحالات الصحة النفسية، وقال ستيفن باكلي، رئيس قسم المعلومات في مؤسسة Mind الخيرية، إن ذلك يثير قلقنا البالغ كجهة داعمة للرعاية الصحية والمرضى.

قال باكلي إن بعض ملخصات AI لحالات مثل الذهان واضطرابات الأكل قدمت «نصائح خطرة للغاية»، وكانت «غير صحية أو ضارة أو تدفع الناس إلى تجنب طلب المساعدة»، مع أنها أحياناً تغفل السياق أو فروق دقيقة مهمة وتقترح مصادر من مواقع غير مناسبة.

وأكدت جوجل أن غالبية ملخصاتها دقيقة وفائدة، وأنها تعمل باستمرار على تحسين جودتها، وأن معدل دقة هذه الملخصات يوازي دقة ميزات البحث الأخرى مثل المقتطفات المميزة، وأنها تتخذ إجراءات عندما يسيء AI Overviews تفسير المحتوى أو يغفل السياق وفق سياساتها.

وقال متحدث باسم جوجل إنهم يستثمرون بشكل كبير في جودة مراجعات الذكاء الاصطناعي، لا سيما في مواضيع الصحة، وأن الغالبية العظمى منها تقدم معلومات دقيقة، وتؤكد الشركة أنها تتابع التطوير وتقييم الأداء باستمرار.

LEAVE A REPLY

Please enter your comment!
Please enter your name here