دراسة: لغة وصف المريض قد تضلّل الذكاء الاصطناعي في الطوارئ
باحثون أميركيون وجدوا أن أدوات الذكاء الاصطناعي قد تتأثر بالأحكام المسبقة عند ترتيب أولوية مرضى الطوارئ.
- الدراسة تشير إلى أن الذكاء الاصطناعي في فرز الطوارئ قد يتأثر بلغة الوصمة.
- بعض النماذج خفّضت أولوية مرضى تدهورت حالتهم لاحقاً.
- النتائج جاءت من تجربة على سجلات مرضى، وليس من استخدام فعلي في الطوارئ.
بحسب «ميديكال إكسبريس»، نشر باحثون في مركز يو تي ساوثويسترن الطبي دراسة في مجلة «إن بي جي ديجيتال ميديسن». تشير نتائجها إلى أن أدوات الفرز الطبي المعتمدة على الذكاء الاصطناعي قد تتأثر بالوصمة، كما يتأثر بها التقييم البشري. وقد يؤدي ذلك إلى تحيّز وإعطاء أولوية خاطئة لبعض المرضى.
كيف أُجريت الدراسة؟
حلل الفريق سجلات مرضى من أقسام الطوارئ في مركزين أكاديميين كبيرين: ستانفورد ميديسن في كاليفورنيا، وبيث إسرائيل ديكونس في ماساتشوستس. جمعوا مرضى بدرجة خطورة أولية متقاربة، ثم طلبوا من ثلاثة نماذج لغوية مفتوحة المصدر التنبؤ بمن سيتدهور وبمن يستحق الأولوية.
قبل إضافة أي معلومات اجتماعية أو ديموغرافية أو موصومة، حددت النماذج الثلاثة المرضى الأعلى خطورة بنسب تفوق الصدفة بكثير.
ماذا تغيّر؟
أضاف الباحثون معلومات مثل تاريخ الصحة النفسية وتعاطي المواد والعمر ونمط زيارات الطوارئ، وقارنوا بين صياغة محايدة وأخرى موصومة. وجدوا أن هذه التفاصيل أثّرت كثيراً في ترتيب الأولويات. وفي بعض الحالات خفّضت النماذج أولوية مرضى تدهورت حالتهم لاحقاً بشدة، بسبب معلومات لا علاقة لها بوضعهم الطبي الفوري.
ظهرت بعض أقوى التأثيرات عندما وُصف المريض بأنه كثير الزيارة للطوارئ. وقال الباحث الرئيسي فيليب جاريت إن الكلمات مهمة، لأن النماذج تعالج ما نكتبه عن المرضى. والدراسة جزء من برنامج بحثي أوسع، وهي تخص نماذج جُرّبت على سجلات، لا على مرضى في الواقع.
لا يعني هذا أن تتجنب العلاج أو أن تخفي تاريخك الصحي. أعطِ الفريق الطبي صورة كاملة وصادقة عن حالتك، فالمعلومة الدقيقة تخدمك. والدراسة تذكّر بأهمية أن تُستخدم أدوات الذكاء الاصطناعي بحذر، وتحت إشراف الأطباء.
تنبيه طبي: هذه المعلومات والنصائح للتوعية العامة، ولا تعني أن تعتمدها في حالتك. ارجع إلى طبيبك، أو استشر طبيباً من عندنا.
أُعيدت صياغة هذا الخبر آلياً بالذكاء الاصطناعي اعتماداً على المصادر المذكورة. المحتوى للتثقيف العام ولا يغني عن استشارة الطبيب.
