تحقيق الغارديان حول ملخصات الذكاء الاصطناعى الصحية من جوجل
أظهرت صحيفة الغارديان أن شركة جوجل أزالت ملخصات الذكاء الاصطناعى التي تقدم لمحات سريعة عن معلومات صحية، بعدما كشف التحقيق أن بعضها يعرض المستخدمين لخطر الضرر بسبب معلومات مضللة وغير دقيقة.
في حين قالت جوجل إن ملخصات الذكاء الاصطناعى التابعة لها مفيدة وموثوقة لتقديم لمحات سريعة عن موضوع أو سؤال ما، أظهر التحقيق أن بعض هذه الملخصات التي تظهر في أعلى نتائج البحث قدمت معلومات صحية غير دقيقة، وهو ما يعرّض المستخدمين للخطر.
معلومات خاطئة
في حالة وصفها الخبراء بأنها “خطيرة” و”مقلقة”، قدمت جوجل معلومات زائفة حول اختبارات وظائف الكبد الحاسمة في تقييم الصحة، ما قد يجعل مرضى الكبد المصابين يظنون أنهم بخير. وجدت الغارديان أن عبارة “ما هو النطاق الطبيعي لاختبارات الدم للكبد” أدت إلى ظهور أعداد هائلة من الأرقام مع قلة السياق وعدم مراعاة جنس المرضى أو أعمارهم أو عرقيتهم، وهو ما قد يضلل القارئ.
أشار خبراء إلى أن ما قدمته تقارير الذكاء الاصطناعى من جوجل باعتباره طبيعياً قد يختلف جذرياً عما هو طبيعي في الواقع، وقد يؤدي إلى أن يتجاهل المرضى نتائج فحوصاتهم عندما يحتاجون إلى متابعة طبية مستمرة.
المعلومات التي تم حذفها
بعد التحقيق، قامت جوجل بإزالة ملخصات الذكاء الاصطناعى لعبارات البحث “ما هو النطاق الطبيعي لاختبارات الدم للكبد” و”ما هو النطاق الطبيعي لاختبارات وظائف الكبد”. قال متحدث باسم جوجل: “لا نعلق على عمليات الحذف الفردية داخل البحث، وفي الحالات التي تفتقر مراجعات الذكاء الاصطناعي إلى بعض السياق، نجري تحسينات شاملة، كما نتخذ إجراءات بموجب سياساتنا عند الاقتضاء.”
قالت فانيسا هيبديتش، مديرة الاتصالات والسياسات في مؤسسة British Liver Trust الخيرية المعنية بصحة الكبد: “هذه أخبار ممتازة، ونرحب بإزالة Google AI Overviews في هذه الحالات”، وأضافت أن “إذا طُرِح السؤال بطريقة مختلفة، فقد تُقدَّم نظرة عامة مضللة محتملة، ولا زال القلق قائما من أن معلومات صحية أخرى ينتجها الذكاء الاصطناعى قد تكون غير دقيقة ومربكة.”
وجدت الغارديان أن كتابة عبارات مشابهة قليلاً للاستعلامات الأصلية في جوجل، مثل “نطاق مرجعي لاختبار LFT” أو “نطاق مرجعي لاختبار LFT”، يؤدي إلى ظهور نتائج ملخص الذكاء الاصطناعى، وعلّقت هيبديتش بأن هذا الأمر يثير قلقاً بالغاً، موضحة أن اختبار وظائف الكبد هو مجموعة من تحاليل الدم المختلفة، وأن فهم النتائج وما يجب فعله بعدها يتجاوز مجرد مقارنة أرقام.
وأضافت أن خدمة “نظرة عامة على الذكاء الاصطناعى” تعرض قائمة بالاختبارات بخط عريض، مما يجعل من السهل أن يغفل القارئ أن هذه الأرقام قد لا تكون أرقاماً صحيحة لاختبارهم، كما أن هذه الملخصات لا تحذر من احتمال أن تكون نتائج الاختبارات طبيعية بينما يعاني الشخص من مرض كبدي خطير ويحتاج إلى رعاية إضافية، وهو تحذير قد يكون ضاراً للغاية.