Birleşik Krallık pasaport fotoğrafı doğrulama sisteminin koyu tenli kadınlara yönelik algoritmik önyargı barındırdığı iddia edildi

BBC tarafından yürütülen bir araştırma, Birleşik Krallık İçişleri Bakanlığı’nın pasaport başvurularında kullandığı otomatik fotoğraf kontrol sisteminin, koyu tenli bireylerin fotoğraflarını hatalı şekilde reddetme eğiliminde olduğunu ortaya koydu. Araştırma sonuçlarına göre, koyu tenli kadınların fotoğraflarının sistem tarafından reddedilme olasılığının, açık tenli erkeklere kıyasla iki kattan fazla olduğu bildirildi.

İnceleme kapsamında, dünya genelindeki siyasetçilere ait, pasaport standartlarına uygun 1.130 fotoğraf sisteme yüklenmiş; koyu tenli kadınların %22, açık tenli kadınların ise %14 oranında "düşük kaliteli" uyarısı aldığı saptanmıştır. En koyu ten rengine sahip kadınların, en açık tenli olanlara göre dört kat daha fazla hata uyarısıyla karşılaştığı aktarılmıştır. Sistemin, ağzın kapalı olmasına rağmen "açık" olarak algılaması, yüzdeki parlamaları hatalı yorumlaması veya ten rengi ile arka planı ayırt edememesi gibi teknik yetersizlikler sergilediği öne sürülmüştür.

İçişleri Bakanlığı sözcüsü, sistemin süreci hızlandırmak amacıyla kullanıldığını, 9 milyondan fazla kişinin bu hizmetten yararlandığını ve sistemin sürekli iyileştirildiğini ifade etmiştir. Ancak 2019 yılındaki bir bilgi edinme başvurusuyla ortaya çıkan belgeler, bakanlığın bu sorundan önceden haberdar olduğunu, buna rağmen sistemin genel performansını "yeterli" bularak kullanıma sunduğunu göstermiştir. Algoritmik Justice League araştırmacısı Inioluwa Deborah Raji, bu tür durumların eğitim verilerindeki temsil eksikliğinden kaynaklandığını ve sistemin herkes için eşit çalışmamasının bir geliştirme kusuru olduğunu belirtmiştir.

Olayda kullanılan algoritmanın dış bir tedarikçi tarafından sağlandığı bildirilmiş, ancak bakanlık bu firmanın adını açıklamadığı için sistemin teknik altyapısına dair bağımsız bir inceleme yapılamamıştır. Alan Turing Enstitüsü'nden Kirstie Whitaker, BBC'nin araştırma metodolojisini ve sonuçlarını doğrulayarak bulguların geçerliliğini teyit etmiştir.