Birleşik Krallık Çalışma ve Emeklilik Bakanlığı (DWP) Tarafından Kullanılan Risk Analizi Algoritmalarının Belirli Milliyetlere Yönelik Ayrımcılık Yaptığı İddia Edildi

Birleşik Krallık Çalışma ve Emeklilik Bakanlığı’nın (DWP), sosyal yardım dolandırıcılığını tespit etmek amacıyla kullandığı yarı otomatik risk inceleme sistemlerinin, özellikle Bulgaristan ve Polonya vatandaşlarını orantısız şekilde hedef aldığı iddia edilmektedir. İşçi Partisi Milletvekili Kate Osamor, 2021 yılından itibaren seçim bölgesindeki çok sayıda Bulgar vatandaşının "Evrensel Kredi" (Universal Credit) ödemelerinin açıklama yapılmaksızın askıya alındığını; bu durumun düşük gelirli aileleri gıda bankalarına muhtaç bıraktığını bildirmiştir.

Milletvekili Osamor, DWP’nin Entegre Risk ve İstihbarat Servisi tarafından kullanılan algoritmaların bazı başvuruları "yüksek riskli" olarak işaretlediğini ve kendi bölgesindeki vakaların çoğunda inceleme sonucunda dolandırıcılık kanıtı bulunmadığını ifade etmiştir. Benzer şekilde, İçişleri Bakanlığı’nın (Home Office) sahte evlilikleri tespit etmek için kullandığı bir algoritmanın da Yunanistan, Arnavutluk, Bulgaristan ve Romanya vatandaşlarını orantısız şekilde bayraklandırdığı, kurumun kendi etki değerlendirme raporlarına yansımıştır.

DWP, algoritmaların milliyet değişkenini bir kriter olarak kullanmadığını ve nihai kararların her zaman bir memur tarafından verildiğini savunmaktadır. Ancak Ulusal Denetim Ofisi (NAO), kurumun veri eksikliği nedeniyle sistemdeki olası önyargıları ve tarafsızlığı denetleme kapasitesinin sınırlı olduğunu belirtmiştir. DWP, sistemin detaylarını paylaşmanın dolandırıcıların sistemi manipüle etmesine yol açabileceği gerekçesiyle algoritmaların çalışma prensiplerini açıklamayı reddetmektedir.