مخاطر ملخصات الذكاء الاصطناعي في المعلومات الصحية
تؤكد جوجل أن ملخصات الذكاء الاصطناعي التي تقدم لمحات سريعة عن معلومات صحية مفيدة وموثوقة في الغالب، لكنها قد تكون غير دقيقة أحياناً عندما يَفْتقر الملخص إلى السياق أو يساء تفسير المحتوى الأصلي.
حثت نتائج البحث مرضى سرطان البنكرياس على تجنّب الأطعمة الغنية بالدهون، وهو توجيه وصفه الخبراء بأنه خاطئ تماماً ويعارض ما ينبغي التوصية به عادة، بل وقد يزيد الخطر على المريض في الوفاة إذا لم يحصل على السعرات الكافية اللازمة لتحمل العلاج.
وفي مثال آخر، قدّمت نتائج البحث معلومات غير دقيقة حول اختبارات وظائف الكبد، مما قد يجعل مرضى أمراض الكبد المتقدمة يظنون أنهم أصحاء بينما الواقع يشير إلى وجود مرض يتطلب متابعة ورعاية مستمرة.
وقالت آنا جويّل، مديرة الدعم والبحث والتأثير في مؤسسة سرطان البنكرياس في المملكة المتحدة، إن نصح المرضى بتجنب الأطعمة الغنية بالدهون «خاطئ تماماً» ويُعدّ خطيراً لأن ذلك قد يحرم المريض من سعرات كافية ويؤخر تعافيه من العلاجات المحتملة مثل الكيمياء أو الجراحة. وتابعت أن استجابة الذكاء الاصطناعي قد تقود المرضى إلى اتباع توجيهات غير مناسبة قد تعيق قدراتهم على تحمل العلاج ويعرّض مسار التعافي للخطر.
وقالت أيضًا إن ملخصات الذكاء الاصطناعي قد تبدو في بعض الحالات كأنها تقترح إجراءات تتعارض مع الاحتياجات الغذائية الأساسية للمصابين بسرطان البنكرياس، ما يجعل من المهم الحفاظ على التقييم الطبي الدقيق وعدم الاعتماد كلياً على الملخصات الآلية في اتخاذ قرارات العلاج.
وأضافت باميلا هيلي، الرئيسة التنفيذية لمؤسسة الكبد البريطانية، أن ملخصات الذكاء الاصطناعي مقلقة لأنها قد تُظهر أعراضاً «طبيعية» لمرضى الكبد في مراحل أواخر، بينما الواقع يتطلب فحصاً ومتابعة مستمرة، وهو ما قد يجعل المرضى يشكّون في الحاجة للمتابعة الطبية.
وذكرت أن بعض مرضى أمراض الكبد في المراحل المتقدمة قد لا يلاحظون أية أعراض، وبالتالي قد يتجاهلون المتابعة اللازمة، وهو أمر خطير لأن الاعتماد على ما يبدو «طبيعياً» قد يخفي المرض الفعلي ويمنع مرافقة الرعاية المناسبة.
وتعزز هذه المخاوف من وجود مخاطر تتعلق ببيانات الذكاء الاصطناعي، حيث يعبر تحقيق الغارديان عن قلقه من أن البيانات التي تُبنى عليها أنظمة الذكاء الاصطناعي قد تضل المستهلكين وتدفعهم إلى الاعتماد على معلومات غير دقيقة عند البحث عن صحة أو علاج.
مخاوف من بيانات الذكاء الاصطناعي وتداعياتها على الصحة النفسية
بينما تزداد الاعتماد على تقنيات الذكاء الاصطناعي في تقديم المساعدة والتوجيه الصحي، أشارت تقارير إلى أن «نظرة عامة الذكاء الاصطناعي» من جوجل قد تضع معلومات صحية غير دقيقة في صدارة نتائج البحث، وهو ما يشكل خطراً على صحة الناس حسب ما أفادته جهات صحية ومراكز معلومات المرضى.
قالت صوفي راندال، مديرة منتدى معلومات المرضى، إن أمثلة الملخصات تبين أن «نظرة عامة الذكاء الاصطناعي من جوجل» قد تضع معلومات صحية غير دقيقة في أعلى نتائج البحث عبر الإنترنت، وهو أمر يثير القلق من حيث سلامة المرضى.
وأضافت ستيفاني باركر، مديرة قسم الإعلام الرقمي في مؤسسة ماري كوري الخيرية لرعاية المرضى في نهاية الحياة، أن الناس يتجهون إلى الإنترنت في لحظات قلق وأزمات، وإذا كانت المعلومات غير دقيقة أو خارج سياقها فقد تُلحق أضراراً صحية جسيمة بهم وتؤخر الحصول على المساعدة اللازمة.
كما وجدت الغارديان أن خدمة «نظرة عامة على الذكاء الاصطناعي من جوجل» تقدّم نتائج مضللة لبحث يتعلق بحالات الصحة النفسية، حيث حذر ستيفن باكلي، رئيس قسم المعلومات في مؤسسة Mind، من أن ذلك يثير قلق المؤسسات الخيرية المعنية بالرعاية العقلية.
أوضح باكلي أن بعض ملخصات الذكاء الاصطناعي لحالات مثل الذهان واضطرابات الأكل قدمت «نصائح خطيرة للغاية» وخلّفت خارج السياق أو تجاهلت فروقاً دقيقة مهمة، ما قد يقود الناس إلى الوصول إلى معلومات من مواقع غير مناسبة، وهو أمر معروف بأن الذكاء الاصطناعي يعكس في كثير من الأحيان تحيزات وقوالب نمطية سابقة.
أكدت جوجل أن الغالبية العظمى من ملخصات AI Overviews دقيقة ومفيدة، وأنها تبذل جهود مستمرة لتحسين جودتها، وأن معدل دقة الملخصات يوازي معدل دقة مميزات البحث الأخرى لديها، كما أشارت إلى أنها تتخذ إجراءات حين يسيء الملخص تفسير محتوى الويب أو يغفل السياق وفق سياساتها. كما صرّح متحدث باسم جوجل بأنهم يستثمرون بشكل كبير في جودة مراجعات الذكاء الاصطناعي، خصوصاً في مجالات الصحة، وأن الغالبية العظمى من الملخصات دقيقة، وأنهم يعملون باستمرار على تحسينها واتخاذ إجراءات مناسبة عند حدوث خطأ في التفسير.
