NYPD’nin yüz tanıma sistemlerinde şüpheli yerine ünlü fotoğrafları ve robot resimler kullanmasının hatalı teşhis riskini artırdığı bildirildi

New York Polis Teşkilatı (NYPD) bünyesindeki Yüz Tanımlama Bölümü (FIS) dedektiflerinin, düşük kaliteli veya pikselli güvenlik kamerası görüntülerini yüz tanıma sistemlerinde taratmak yerine, şüpheliye benzediği düşünülen ünlülerin fotoğraflarını sisteme "sorgu görseli" olarak yüklediği bildirildi. 28 Nisan 2017’de bir mağazadan bira çaldığı iddia edilen bir şüphelinin görüntüsü pikselli olduğu için sonuç alınamaması üzerine, dedektiflerin aktör Woody Harrelson’ın yüksek çözünürlüklü bir fotoğrafını kullandığı aktarıldı. Sistemin sunduğu aday listesinden seçilen ve şüpheliye benzediğine inanılan bir kişinin, nihayetinde küçük hırsızlık suçlamasıyla tutuklandığı belirtildi.

Benzer bir yöntemin, Brooklyn’deki bir darp vakasında bir New York Knicks oyuncusunun fotoğrafı kullanılarak da uygulandığı ifade edildi. Ayrıca Maricopa ve Washington County gibi farklı bölgelerdeki kolluk kuvvetlerinin; el çizimi robot resimleri, bilgisayar ortamında oluşturulmuş kompozit yüzleri ve üzerinde oynanmış görselleri yüz tanıma algoritmalarına yüklediği kaydedildi. Amazon, Cognitec ve Vigilant Solutions gibi teknoloji sağlayıcılarının, sistemlerinin robot resimler üzerinden eşleştirme yapabildiğine dair pazarlama faaliyetleri yürüttüğü, ancak bu uygulamanın bilimsel geçerliliğinin tartışmalı olduğu vurgulandı.

Bilimsel araştırmalar, yüz tanıma sistemlerinin robot resimler üzerindeki performansının oldukça düşük olduğunu göstermektedir. Michigan Eyalet Üniversitesi ve Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) tarafından yapılan değerlendirmelerde, robot resim aramalarının çoğunlukla başarısız olduğu; 2013 tarihli bir çalışmada ise doğru eşleşmenin ilk 200 aday arasında çıkma olasılığının yalnızca %4,1 ile %6,7 arasında kaldığı saptandı. NYPD bünyesindeki bazı uzmanların da geçmiş tecrübelerine dayanarak robot resimlerin bu sistemlerde verimli çalışmadığını kabul ettiği bildirildi.

"Çöp veri girerse, çöp sonuç çıkar" (Garbage in, garbage out) ilkesi uyarınca, sisteme şüphelinin gerçek görüntüsü yerine bir başkasının veya bir çizimin yüklenmesinin, sistemin hata payını artırdığı değerlendirilmektedir. Bu durumun, masum kişilerin özgürlüğünden mahrum bırakılmasına ve hatalı yargılamalara yol açabileceği uyarısı yapıldı. Kolluk kuvvetlerinin bu tür yöntemleri kullanmasına yönelik yasal bir kısıtlama bulunmaması, sistemin güvenilirliği konusundaki endişeleri artırmaktadır.