Yüz tanıma teknolojisinin şüpheli teşhisinde kullanılmasının hatalı tutuklamalara ve savunma haklarının kısıtlanmasına yol açtığı öne sürüldü

2018 yılında New York’un Bronx bölgesinde bir hırsızlık vakasıyla ilgili olarak, polisin yüz tanıma teknolojisi kullanarak bir şüpheliyi teşhis ettiği ve tutukladığı bildirildi. Kamu savunmanı Kaitlin Jackson, müvekkilinin olay anında bir hastanede olduğunu belirtmesine rağmen, polisin bir güvenlik kamerası görüntüsünü yüz tanıma sisteminden geçirerek elde ettiği sabıka kaydı fotoğrafını tek tanığa "Bu o mu?" şeklinde yönlendirici bir mesajla sunduğunu öne sürdü.

Habere göre, şüpheli yaklaşık altı ay boyunca tutuklu kaldıktan sonra, avukatının beraat ihtimalini yüksek görmesine rağmen cezaevinden bir an önce çıkabilmek için suçunu kabul ederek uzlaşma yoluna gitti. Jackson, polisin yüz tanıma teknolojisini kullandığını başlangıçta gizlediğini, bu durumun savunma makamının teknolojinin güvenilirliğini sorgulamasını engellediğini ve adil yargılanma hakkını zedelediğini savundu.

Genel bağlamda, yüz tanıma sistemlerinin özellikle beyaz olmayan bireylerde, kadınlarda ve gençlerde daha yüksek hata oranlarına sahip olduğu; buna rağmen ABD genelinde birçok kolluk kuvvetinin bu sistemleri yeterli denetim ve şeffaf olmayan biçimde kullandığı belirtilmektedir. NIST (Ulusal Standartlar ve Teknoloji Enstitüsü) tarafından yapılan testlerde, en iyi algoritmaların bile yüksek kaliteli fotoğraflardan oluşan veritabanlarında %20'nin üzerinde hata yapabildiği vurgulanmıştır.

NYPD (New York Polis Departmanı), yüz tanıma kaynaklı herhangi bir resmi hatalı tutuklama vakası bildirilmediğini açıklasa da, savunma avukatları sistemin çıktılarını doğrulamak için kullanılan insani teşhis süreçlerinin yönlendirici olabildiğini ve teknolojinin kullanımının resmi kayıtlarda gizlendiğini iddia etmektedir. Benzer şekilde, Amazon'un yüz tanıma yazılımının geçmişte bazı Kongre üyelerini suçlu zanlılarıyla karıştırdığına dair bulgular, sistemlerin güvenilirliği konusundaki tartışmaları artırmıştır.