تذكيرات السلامة تعزز أمان قرارات الذكاء الاصطناعي الطبية

مع تزايد قدرة الذكاء الاصطناعي على المساعدة في مهام الرعاية الصحية، اكتشفت دراسة حديثة أن دمج تذكير قصير بالسلامة يمكن أن يقلل بشكل كبير من القرارات الضارة المحتملة التي تتخذها نماذج الذكاء الاصطناعي في السياقات الطبية.

ووفقاً للدراسة التي أجراها باحثون من كلية إيكان للطب في ماونت سيناي، ونُشرت في مجلة «كوميونيكيشنز ميديسين»، فإن نماذج الذكاء الاصطناعي تتأثر بالسياق والتعليمات المحيطة بالقرار الطبي. وقد أظهرت النتائج، المستندة إلى ملايين المخرجات، أن طريقة توجيه أنظمة الذكاء الاصطناعي تظل عاملاً مهماً في تطوير تطبيقات سريرية آمنة وموثوقة.

اختبر الفريق البحثي 20 نموذجاً لغوياً كبيراً باستخدام 501 اختلافاً من 50 سيناريو سريرياً، بالإضافة إلى 100 حالة مقتبسة من سجلات خروج المرضى من المستشفيات. ومن بين أكثر من 10 ملايين استجابة، اتخذت النماذج حوالي 1.18 مليون خيار طبي يحتمل أن يكون ضاراً.

وأفادت الدراسة بأن نسبة الخيارات الضارة المحتملة انخفضت من 16.6% إلى 10.1% عند إضافة تذكير بسيط بالسلامة. وقد أدى هذا التذكير إلى تقليل الخيارات الضارة في 19 من أصل 20 نموذجاً تم اختبارها، مما يشير إلى طريقة محتملة لتعزيز وسائل الأمان.

ويؤكد الباحثون أن هذه النتائج تسلط الضوء على أهمية تقييم ليس فقط ما إذا كان نموذج الذكاء الاصطناعي يمكنه تقديم معلومات سريرية دقيقة، بل أيضاً كيفية استجابته عند إعطائه تعليمات تتعارض مع سلامة المريض.