NarxCare risk puanlama sisteminin tıbbi verileri hatalı yorumlayarak kronik ağrı hastalarının tedaviye erişimini engellediği iddia edildi

Amerika Birleşik Devletleri’nde (ABD) opioid krizine karşı geliştirilen ve eyaletlerin reçete izleme programlarına (PDMP) entegre edilen NarxCare adlı yapay zekâ tabanlı risk puanlama sisteminin, kronik ağrı hastaları hakkında hatalı "aşırı doz riski" raporları sunduğu öne sürülmektedir. Makine öğrenmesi algoritmalarını kullanan sistemin; hastaların reçete geçmişi, eczane ziyaret sıklığı ve tıbbi kayıtlarını analiz ederek oluşturduğu üç haneli puanların, hekimler ve eczacılar tarafından kesin bir yargı gibi kabul edildiği bildirilmektedir.

Michigan’da yaşayan Kathryn adlı bir hastanın anlatımına göre, 2020 yılında şiddetli endometriozis ağrısı nedeniyle başvurduğu hastanede, sistemdeki risk puanının yüksekliği gerekçe gösterilerek opioid tedavisi kesilmiş ve hastanın jinekoloğu tarafından takibi sonlandırılmıştır. Kathryn, yüksek risk puanının, kronik rahatsızlıkları olan iki köpeği için veterinerler tarafından yazılan ve kendi adına kaydedilen reçetelerden kaynaklanmış olabileceğini düşünmektedir. Benzer şekilde Indiana’da yaşayan Elizabeth Amirault’un da kalça ameliyatı öncesinde "yüksek Narx puanı" gerekçesiyle ağrı kesici tedavisinden mahrum bırakıldığı aktarılmaktadır.

Sistemin çalışma prensiplerine yönelik eleştirilerde, algoritmanın "doktor alışverişi" (birden fazla hekimden reçete alma) olarak sınıflandırdığı davranışların, aslında kanser hastaları gibi karmaşık tedavi süreçleri olan kişilerin rutin sağlık etkileşimleri olabileceği belirtilmektedir. Yapılan bir araştırmaya göre, genel olarak "doktor alışverişi" yapanlar olarak işaretlenen kişilerin %20’sinin aslında birden fazla uzman görmesi gereken kanser hastaları olduğu saptanmıştır. Ayrıca, sistemin tescilli (proprietary) yapısı nedeniyle puanların hangi veri ağırlıklarıyla hesaplandığının kamuoyuna ve tıp uzmanlarına açıklanmaması, şeffaflık ve denetlenebilirlik tartışmalarını beraberinde getirmiştir.

Sistemi geliştiren Bamboo Health (eski adıyla Appriss Health), NarxCare puanlarının hekimin klinik kararının yerine geçmemesi gerektiğini, yalnızca bir karar destek mekanizması olarak tasarlandığını savunmaktadır. Ancak ABD Hastalık Kontrol ve Korunma Merkezleri (CDC), bu tür kapalı devre algoritmaların hastaların tıbbi bakımdan dışlanmasına veya damgalanmasına yol açabileceği konusunda uyarıda bulunmuştur. Olaylar, yapay zekâ çıktılarının klinik bağlamdan kopuk şekilde "otomatik karar" mekanizmasına dönüşmesinin, savunmasız hasta grupları üzerinde doğrudan fiziksel ve psikolojik zararlar olu