Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Birleşik Krallık’taki Universal Credit sisteminin otomatik süreçlerinin çalışan bekar annelere karşı ayrımcılık yaptığı iddia edildi
Birleşik Krallık'ta Universal Credit sistemindeki algoritmik süreçlerin, hatalı hesaplamalar ve veri önyargıları nedeniyle çalışan bekar annelerin finansal istikrarını bozduğu ve sistemik ayrımcılığa yol açtığı iddia edildi.
Olay
Edinburgh Üniversitesi araştırmacıları tarafından yapılan bir Bilgi Edinme Özgürlüğü (FOI) başvurusu, Birleşik Krallık Çalışma ve Emeklilik Bakanlığı (DWP) tarafından yönetilen Universal Credit sistemindeki otomasyon süreçlerinin, çalışan bekar anneler üzerinde orantısız bir olumsuz etki yarattığını ortaya koydu. Sistemin "varsayılan olarak dijital" yapısı gereği hak sahipliği belirleme, ödeme miktarı hesaplama ve dolandırıcılık tespiti gibi süreçlerde algoritmalar kullandığı; ancak bu süreçlerin düşük gelirli gruplar üzerinde sistematik bir denetim baskısı oluşturduğu öne sürüldü.
Edinburgh Üniversitesi'nden Dr. Morgan Currie, sistemdeki en yaygın sorunların hatalı kazanç bilgileri, çocuk bakımı geri ödemelerindeki gecikmeler ve ödeme günleri ile hesaplama tarihleri arasındaki uyumsuzluklar olduğunu belirtti. Bu teknik aksaklıkların, çalışan bekar ebeveynlerin yaklaşık %90'ını oluşturan kadınları doğrudan etkilediği ve ciddi gelir dalgalanmalarına yol açtığı ifade edildi. Bath Üniversitesi tarafından yayımlanan bir çalışma, sistemdeki hanelerin yarısından fazlasının aylık ödemelerinde %400 ve üzerinde sapmalar yaşandığını, bunun da dar gelirli aileleri borç sarmalına itebileceğini raporladı.
Careful Trouble araştırma merkezinden Anna Dent, dolandırıcılık tespit algoritmalarının geçmiş verilere dayanmasının kurumsal önyargıları sisteme dahil edebileceği uyarısında bulundu. Geçmişte belirli etnik kökenlerin, engelli bireylerin veya bekar ebeveynlerin daha fazla denetime tabi tutulmuş olmasının, algoritmanın bu grupları otomatik olarak "yüksek riskli" şeklinde sınıflandırmasına neden olabileceği değerlendirilmektedir. Ayrıca, Public Law Project gibi kuruluşlar, hükümetin kullandığı algoritmaların işleyişine dair şeffaflık eksikliğinin, hatalı kararlara karşı hukuki itiraz süreçlerini "neredeyse imkânsız" hâle getirdiğini bildirdi.
DWP sözcüsü, eşitsizliklerle mücadele etmek ve sistemin bekar anneler dâhil herkes için adil işlemesini sağlamak amacıyla mevcut yapının gözden geçirileceğini açıkladı. Olay, kamu hizmetlerinde kullanılan algoritmik karar verme sistemlerinin denetim, şeffaflık ve sosyal adalet üzerindeki etkilerine dair tartışmaları derinleştirmiştir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?