Yüz Tanıma Sistemlerinin, Etnik Gruplar Arasında Yüksek Yanlış Pozitif Oranları Göstererek Ayrımcılık Riski Oluşturduğu Bildirilmektedir

Birleşik Krallık İçişleri Bakanlığının Ulusal Fizik Laboratuvarına yaptırdığı bağımsız testlerde, polis tarafından ulusal veri tabanındaki yüz görüntülerini araştırmak için kullanılan geriye dönük yüz tanıma algoritmasının bazı çalışma ayarlarında demografik gruplar arasında önemli performans farklılıkları gösterdiği belirlendi. Sistem, güvenlik kamerası veya telefon görüntülerindeki bir yüzü polis veri tabanındaki kayıtlarla karşılaştırarak olası adayları sıralamak amacıyla kullanılıyordu.

Düşük eşleşme eşiğinde yapılan testlerde yanlış pozitif kimliklendirme oranı beyaz kişiler için yüzde 0,04, Asyalı kişiler için yüzde 4 ve Siyah kişiler için yüzde 5,5 olarak ölçüldü. En yüksek oran Siyah kadınlarda yüzde 9,9 olurken Siyah erkeklerde yüzde 0,4 olarak kaydedildi. Bu sonuçlar, sistemin belirli ayarlarda Siyah ve Asyalı kişileri yanlış aday olarak sonuç listesine dâhil etme olasılığının beyaz kişilere kıyasla daha yüksek olduğunu gösterdi.

Bulgular, bir kişinin otomatik olarak suçlu ilan edildiği veya doğrudan gözaltına alındığı anlamına gelmemektedir. Geriye dönük yüz tanıma sistemi, soruşturmacılara incelenmesi gereken aday listeleri sunmakta ve olası eşleşmelerin eğitimli görevliler tarafından diğer delillerle birlikte değerlendirilmesi gerekmektedir. Bununla birlikte yanlış eşleşmeler, belirli grupların gereksiz polis incelemesine daha sık maruz kalması ve soruşturmaların hatalı kişilere yönelmesi riskini taşımaktadır.

Test edilen geriye dönük sistem ile kamusal alanlarda kişileri gerçek zamanlı olarak tarayan canlı yüz tanıma sistemi aynı uygulama değildir. Metropolitan Police’in canlı yüz tanıma faaliyetlerinde bildirilen 3,1 milyon tarama ve 10 yanlış uyarı, ayrı bir sistemin operasyonel sonuçlarıdır; bu veriler NPL testindeki yüzde 9,9 oranıyla doğrudan karşılaştırılamaz.

Bilgi Komiserliği Ofisi, geçmişte kullanılan algoritmadaki demografik yanlılık hakkında daha önce bilgilendirilmemiş olmasını eleştirdi ve biyometrik sistemlerde şeffaflık ile güçlü denetim gerektiğini belirtti. Polis birimleri, test sonuçlarının ardından mevcut sistemde daha yüksek eşleşme eşikleri uygulayarak gruplar arasındaki farkı azaltmaya çalıştı.

İçişleri Bakanlığı, farklı bir geriye dönük yüz tanıma algoritmasının testlerde yaş, etnik köken ve cinsiyete göre istatistiksel olarak anlamlı performans farkı göstermeyen ayarlara sahip olduğunu açıkladı. Yeni sistemin 2026’nın başlarında polis teşkilatlarında denenmesi ve sonuçlarının ayrıca değerlendirilmesi planlandı. Bu açık