Arkansas’ta kullanılan bir algoritmanın engelli bireylerin evde bakım sürelerinde haksız kesintilere ve hastaneye yatışlara yol açtığı saptandı

Arkansas eyaletinde 2016 yılında yürürlüğe giren ve Medicaid kapsamındaki engelli bireylerin evde bakım sürelerini belirleyen bir algoritmanın, çok sayıda hastanın hayati destek hizmetlerinde ciddi kesintilere neden olduğu bildirildi. Serebral palsi hastası Tammy Dobbs’un anlatımına göre, durumunda herhangi bir iyileşme olmamasına rağmen haftalık 56 saat olan bakım desteği, algoritma değerlendirmesi sonucunda 32 saate düşürüldü. Eyalet genelinde yüzlerce kişinin benzer kesintilerle karşılaştığı, bu durumun hastaların temel ihtiyaçlarını kısıtladığı ve bazı vakalarda hastaneye yatışlara yol açtığı belirtildi.

Eyalet yetkilileri, algoritma öncesi insan odaklı sistemin kayırmacılığa açık olduğunu, yeni sistemin ise daha "objektif" olduğunu savundu. Ancak sistemin şeffaf olmaması eleştirilere yol açtı. Açılan bir dava sonucunda, algoritmanın belirli engellilik durumlarını tıbbi ihtiyaçlar açısından hatalı karakterize ettiği ve haksız kesintilere doğrudan bu hataların neden olduğu saptandı. Arkansas İnsan Hizmetleri Departmanı, devam eden davaları gerekçe göstererek konuyla ilgili soruları yanıtlamayı reddetti.

Olayın hukuki boyutu, algoritmik sistemlerin "teknolojik adil yargılanma" hakkını ihlal edebileceği tartışmalarını gündeme getirdi. Benzer bir durumun Idaho eyaletinde de yaşandığı; eyaletin kendi geliştirdiği algoritmanın bakım bütçelerini %42 oranında düşürdüğü ve formülün "ticari sır" olduğu gerekçesiyle açıklanmadığı belirtildi. Mahkeme sürecinde, Idaho’daki sistemin hatalı verilere dayandığı ortaya çıktı.

Ayrıca, sağlık sektöründe kullanılan benzer algoritmaların ırksal önyargıları pekiştirebildiği saptandı. 2019 tarihli bir araştırmada, geçmiş sağlık harcamalarını temel alan bir algoritmanın, siyah hastaların beyaz hastalarla aynı bakımı alabilmesi için çok daha ağır semptomlar göstermesi gerektiği sonucuna vardığı saptandı. Bu durumun, algoritmaların mevcut toplumsal eşitsizlikleri otomatikleştirme riski taşıdığı değerlendirilmektedir.