UnitedHealth’in Medicare Advantage Kapsamındaki Rehabilitasyon Taleplerini Reddetmek İçin Yüksek Hata Oranına Sahip Olduğu İddia Edilen Bir Yapay Zekâ Algoritması Kullandığı Öne Sürüldü

ABD'nin en büyük sağlık sigortası şirketi olan UnitedHealthcare ve iştiraki NaviHealth’e karşı, yaşlı hastaların rehabilitasyon ve bakım evi teminatlarını haksız yere reddetmek amacıyla "nH Predict" adlı bir yapay zekâ algoritmasını kullandığı iddiasıyla Minnesota Bölge Mahkemesinde toplu dava açıldı. Hayatını kaybeden iki Medicare Advantage poliçe sahibinin (Gene B. Lokken ve Dale Henry Tetzloff) aileleri tarafından açılan davada, şirketin doktor tavsiyelerini göz ardı ederek hastaları tedavi tesislerinden erken taburcu olmaya zorladığı veya hastaları yüksek tedavi masraflarını kendi ceplerinden ödemek durumunda bıraktığı ileri sürüldü. Clarkson Law Firm tarafından temsil edilen davacılar, hastaların bu süreçte binlerce dolarlık ek masrafla karşı karşıya kaldığını veya gerekli bakımdan mahrum kaldığını savunmaktadır.

Davacıların iddiasına göre, nH Predict algoritması 6 milyon hastadan oluşan bir veri tabanını kullanarak hastaların durumuna göre ne kadar süre rehabilitasyon alması gerektiğini tahmin etmektedir. Ancak sistemin, hastanın yatış sürecinde gelişen zatürre veya COVID-19 gibi ek rahatsızlıkları hesaba katmadığı savunulmaktadır. Davada, algoritma tahminlerine dayalı ret kararlarına itiraz edildiğinde, bu kararların %90'ından fazlasının idari yargıçlarca iptal edildiği; bu durumun sistemin yüksek hata oranına işaret ettiği iddia edildi. Buna karşın, hastaların yalnızca yaklaşık %0,2’sinin bu kararlara itiraz ettiği belirtilmektedir.

Stat News araştırması, vaka yöneticilerinin hastaların yatış sürelerini algoritmanın öngördüğü gün sayısının %1 ila %3'ü oranında tutmaya zorlandığını, uymayanların disiplin cezalarıyla karşılaştığını ortaya koymuştur. UnitedHealth ve iştiraki Optum Health ise davanın asılsız olduğunu, nH Predict'in doğrudan teminat kararı vermediğini, yalnızca bir rehber olduğunu savunmaktadır.