Birleşik Krallık İçişleri Bakanlığı’nın sahte evlilikleri tespit eden algoritmasının uyruk ve yaşa dayalı ayrımcılık yaptığı iddia edildi

Birleşik Krallık İçişleri Bakanlığı’nın, göçmenlik kurallarını ihlal eden sahte evlilikleri tespit etmek amacıyla 2019 yılından bu yana makine öğrenmesi temelli bir trijaj sistemi kullandığı bildirildi. Public Law Project (PLP) tarafından elde edilen dahili belgelere göre sistemin, evlilik bildiriminde bulunan çiftleri "kırmızı" veya "yeşil" kategorilerine ayırarak hangilerinin daha derinlemesine soruşturulması gerektiğini belirlediği aktarıldı. "Kırmızı" bayrak alan çiftlerin kapsamlı mülakatlara ve ev ziyaretlerine tabi tutulduğu; bu sürecin vize reddi, yasal işlem veya sınır dışı edilme gibi ciddi sonuçlar doğurabildiği belirtildi.

Sistemin kullandığı geçmiş verilerin ve kamuoyuna açıklanmayan sekiz gizli kriterin, belirli uyruklara ve yaş gruplarına karşı ayrımcılık içerdiği öne sürülmektedir. Paylaşılan verilerde Bulgaristan, Yunanistan, Romanya ve Arnavutluk vatandaşlarının sisteme takıldıklarında %20-25 gibi yüksek oranlarda "kırmızı" kategoriye (trijaj başarısızlığı) alındığı gözlemlendi. Hak savunucuları ve hukukçular, algoritmanın geçmişteki önyargılı verileri temel alarak mevcut ayrımcılığı pekiştirdiğini ve şeffaflıktan uzak olduğunu iddia etmektedir. Ayrıca, eşler arasındaki yaş farkının bir risk faktörü olarak kullanılmasının, yaşa dayalı dolaylı ayrımcılığa yol açabileceği bizzat bakanlığın Eşitlik Etki Değerlendirmesi (EIA) raporunda kabul edilmektedir.

İçişleri Bakanlığı ise sistemin dolaylı bir önyargı içermediğini savunarak, uygulanan EIA’nın olası riskleri belirlemek ve bu ayrımcılığın sürecin amaçlarına ulaşmak için haklı çıkarılabilir olup olmadığını değerlendirmek için kullanıldığını ifade etti. Bakanlık yetkilileri, uyruğun tek başına bir belirleyici olmadığını, ancak yasa dışı göçle mücadele için bu tür bir denetim mekanizmasının gerekli olduğunu belirtti. Bununla birlikte, sistemin çalışma prensiplerine ve risk faktörlerine dair ayrıntılı bilgi paylaşımının, soruşturmaların etkinliğini zayıflatabileceği gerekçesiyle reddedildiği aktarıldı.

Olay, daha önce benzer gerekçelerle durdurulan "vize algoritması" tartışmalarının ardından, kamu kurumlarında kullanılan otomatik karar verme sistemlerinin denetimi ve şeffaflığı konusundaki endişeleri yeniden gündeme getirmiştir.