Londra Metropolitan Polisi’nin yüz tanıma teknolojisi denemesinde yüksek oranda hatalı eşleşme ve operasyonel yetersizlik yaşandığı bildirildi

Londra Metropolitan Polis Teşkilatı’nın 2017 yılında düzenlenen Notting Hill Karnavalı’nda denediği yüz tanıma teknolojisinin, hedeflenen suçluları tespit etmede başarısız olduğu ve yüksek oranda hatalı sonuç ürettiği bildirildi. Yaklaşık iki milyon kişinin katıldığı etkinlikte polis, aranan veya girişi yasaklanan 500’den fazla kişiyi tespit etmek amacıyla kalabalığı gerçek zamanlı olarak tarayan bir algoritma kullandı.

Sivil toplum kuruluşu Big Brother Watch tarafından yayımlanan verilere göre, sistemin karnavalın bir gününde %98 oranında "yanlış pozitif" (hatalı eşleşme) ürettiği ve yaklaşık 35 hatalı eşleşme kaydettiği iddia edildi. Deneme süresince sistemin ürettiği tek doğru eşleşmenin ise veri tabanındaki güncel olmayan bilgiler nedeniyle, halihazırda gözaltına alınmış ve aranma kaydı düşmüş bir kişiye ait olduğu belirtildi. Bazı vakalarda sistemin genç bir kadını kel bir erkek şüpheliyle eşleştirmek gibi bariz hatalar yaptığı, ancak polisin bu bariz hataları fark ederek müdahale etmediği; buna karşın beş kişinin polis tarafından durdurularak kimlik kontrolüne tabi tutulduğu bildirildi.

Metropolitan Polisi, %98’lik hata payı verisine itiraz ederek, sistemin bir uyarı vermesinin ardından insan müdahalesi ve ek kontroller yapıldığı için bu durumun teknik bir "hatalı eşleşme" olarak değerlendirilmemesi gerektiğini savundu. Dönemin en üst düzey emniyet yetkilisi Cressida Dick, teknolojinin kullanımından "tamamen rahat" olduğunu belirterek, kamuoyunun suçla mücadelede ileri teknolojilerin kullanılmasını beklediğini ifade etti. Ancak insan hakları savunucuları ve Biyometri Komiseri, sistemin bilimsel olarak yeterliliğinin kanıtlanmadığını, yasal bir çerçeveden yoksun olduğunu ve azınlık gruplara yönelik algoritmik önyargı riski taşıdığını öne sürdü.

Olayın ardından hazırlanan raporlarda, yüz tanıma sistemlerinin kontrollü ortamlarda başarılı olsa da kalabalık kamu alanlarında operasyonel açıdan yetersiz kaldığı değerlendirildi. Ayrıca, polisin elindeki milyonlarca sabıka fotoğrafının hukuka aykırı şekilde saklanmaya devam etmesi ve bu verilerin doğruluğunun denetlenmemesi eleştirileri artırdı.