ABD’de evde bakım hizmetlerinin tahsisinde kullanılan algoritmaların savunmasız bireylerin hizmetlerinde ciddi kesintilere ve mağduriyetlere yol açtığı bildirildi

ABD’nin Arkansas, Idaho ve Washington DC gibi çeşitli bölgelerinde, engelli ve yaşlı bireylere yönelik evde bakım hizmetlerinin süresini belirlemek amacıyla kullanılan otomatik algoritmaların, hizmet saatlerinde ani ve önemli kesintilere neden olduğu bildirildi. Idaho'da 2008'de, Arkansas'ta ise 2016'da devreye giren bu sistemlerin, daha önce hemşireler ve sosyal hizmet uzmanları tarafından yapılan değerlendirmelerin yerini aldığı; ancak sistemin çıktıları sonucunda birçok hastanın günlük öz bakım ihtiyaçlarını karşılayamaz hale geldiği öne sürüldü.

Arkansas’ta yaşanan vakalarda, serebral palsi gibi kronik rahatsızlıkları olan bireylerin bakım saatlerinin algoritma kararıyla yarı yarıya düşürüldüğü; bu durumun hastaların beslenme, banyo ve tuvalet gibi temel ihtiyaçlarını giderememesine yol açtığı aktarıldı. Hukukçular ve hasta savunucuları, algoritmanın bireylerin tıbbi durumlarını (diyabet veya serebral palsi gibi) yeterince dikkate almadığını ve veri girişindeki hataların hizmet süresinde büyük sapmalara neden olduğunu iddia etti. Washington DC’deki bazı vakalarda ise hukukçular, hizmet kesintilerinin bazı hastaların yaşamını yitirmesine neden olduğunu ileri sürdü.

Algoritmanın tasarımcısı olan Prof. Brant Fries, sistemin bireylerin gerçek ihtiyacını hesaplamak yerine, kısıtlı kamu kaynaklarını "eşitlikçi" bir şekilde paylaştırmak üzere kurgulandığını belirtti. Fries, bütçe yetersizliğinin sonuçlarından algoritmanın sorumlu tutulamayacağını savunurken; Arkansas Yüksek Mahkemesi, sistemin hastalara "telafisi imkansız zararlar" verdiği gerekçesiyle 2018 yılında kullanımını durdurma kararı aldı. Sistemin şeffaflıktan uzak olduğu ve bireysel koşulları göz ardı ederek "insani unsuru bir sayıya indirgediği" yönündeki eleştiriler kayıtlara geçti.