تنبه تقرير الغارديان إلى أن ملخصات الذكاء الاصطناعي التي تقدمها خدمات البحث والملخصات الصحية قد تكون دقيقة ومفيدة غالباً، لكنها تحمل مخاطر حقيقية عندما تتعلق بمعلومات صحية حساسة وتؤدي إلى قرارات غير سليمة لدى المرضى والمراجعين الطبيين.
في مثال وصفه الخبراء بأنه «خطير للغاية»، أوصى ملخص البحث مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون، وهو توجيه يخالف ما ينبغي أن يُنصح به لمرضى السرطان، ما قد يؤدي إلى نقص السعرات وفقدان وزن يعيق القدرة على تحمل العلاج الكيميائي أو الجراحة ويهدد فرص التعافي.
وفي مثال آخر حاسم، كانت النتائج تشير إلى معلومات غير دقيقة حول اختبارات وظائف الكبد الحاسمة، ما قد يجعل مرضى أمراض الكبد في مراحل متقدمة يظنون خطأً أنهم في صحة جيدة، وهو أمر لا يكون صحيحاً عادةً لأن الأعراض لا تظهر في المراحل الأولى.
وقالت آنا جويل، مديرة الدعم والبحوث في مؤسسة سرطان البنكرياس في المملكة المتحدة، إن النصيحة بتجنب الدهون «خاطئ تماماً» وقد تكون خطيرة للغاية وتعرض فرص الشخص في التعافي للخطر، وأضافت أن استجابة الذكاء الاصطناعي قد تقدم قائمة أمثلة، لكن اتباعها قد يحرم المريض من سعرات كافية ويعيق تحمل العلاج الكيميائي أو الجراحة التي قد تنقذه.
وأضافت باميلا هيلي، المديرة التنفيذية لمؤسسة الكبد البريطانية، أن ملخصات الذكاء الاصطناعي مثيرة للقلق لأنها قد ترى نتائج فحص الكبد في مراحل متأخرة كأنها «طبيعية»، وهو ما يجعل بعض المرضى لا يطالبون بمتابعة الرعاية الصحية اللازمة، وهو أمر حيوي لأن الواقع قد يختلف عن التصورات التي تنشرها هذه الملخصات.
وتؤكد الشواهد أن هذه الملخصات قد تعكس تحيزات سابقة وتفتقر للسياق الكافي أو تفصل بين حالات وكافة التفاصيل الدقيقة، وهو أمر حاسم في مجالات مثل أمراض الكبد والسرطان والاضطرابات النفسية، حيث تكون القرارات العلاجية فردية وحساسة للسياق الطبي والفحوص المتتابعة.
مخاوف من بيانات الذكاء الاصطناعي
وسط مخاوف متنامية من أن بيانات الذكاء الاصطناعي قد تضلل المستهلكين الذين يظنون أنها موثوقة، أشارت تقارير إلى أن أنظمة الذكاء الاصطناعي قد تقدم نصائح مالية غير دقيقة، كما أن ملخصات الأخبار قد تكون مضللة في سياق معلومات الصحة النفسية، خصوصاً عند الحديث عن حالات مثل الذهان واضطرابات الأكل حيث قد تكون النصائح خطرة وتفتقد للسياق.
وقالت صوفي راندال من منتدى معلومات المرضى إن «نظرة عامة الذكاء الاصطناعي» قد تضع معلومات صحية غير دقيقة في أعلى نتائج البحث، وهو ما يعرض صحة القراء للخطر. وأضافت ستيفاني باركر من مؤسسة ماري كوري الخيرية أن الناس يتجهون إلى الإنترنت في لحظات القلق، وإن وجود معلومات غير دقيقة قد يسبب أذىً بالغاً للصحة.
كما أشارت تقارير إلى أن خدمة «نظرة عامة على الذكاء الاصطناعي» قد تقدم نتائج مضللة في البحث عن حالات الصحة النفسية، وهو ما يثير قلق المنظمات الخيرية والجهات المعنية بالرعاية في نهاية الحياة، إذ قد تقترح أنظمة الذكاء الاصطناعي الوصول إلى معلومات من مواقع غير مناسبة وتفتقد إلى السياق والفروق الدقيقة بين الحالات، مما يؤثر في قرارات المرضى وتوجهاتهم لطلب المساعدة.
وأكدت جوجل أن غالبية ملخصات الذكاء الاصطناعي التي تقدمها دقيقة وفائدة، وتعمل على تحسين جودتها باستمرار، وأن معدل دقة الملخصات يضاهي معدل دقة ميزات البحث الأخرى مثل المقتطفات المميزة، وأضافت أن شركاتها تتخذ إجراءات مناسبة حين يسيء نموذج الذكاء الاصطناعي تفسير محتوى الويب أو يغفل السياق، مع التأكيد على استمرار الاستثمار في جودة مراجعات الذكاء الاصطناعي خاصة في الصحة.
