New York Polis Departmanı'nın yüz tanıma sisteminin hatalı bir eşleşme ürettiği ve bunun Trevis Williams'ın haksız yere gözaltına alınmasına yol açtığı iddia edildi.

New York Polis Departmanı'nın (NYPD) yüz tanıma sisteminin, Union Square'de yaşanan bir teşhircilik vakasında Trevis Williams'ı hatalı şekilde şüpheli olarak tespit ettiği iddia edildi. Belirgin fiziksel farklılıklara ve Williams'ı aklayan telefon verilerine rağmen, Williams'ın tutuklandığı, iki günden fazla gözaltında tutulduğu ve suçlandığı bildirildi.

Soruşturmacıların, düşük çözünürlüklü güvenlik kamerası görüntüsünden alınan bulanık bir kareyi departmanın sistemine yüklediği, algoritmanın bu görüntüyü veri noktalarına dönüştürerek altı olası eşleşme sunduğu, tüm eşleşmelerin dreadlock saçlı ve sakallı Siyahi erkekler olduğu aktarıldı. Savcıların, Williams'ın kamu avukatlarının yanlış teşhis edildiğini kanıtlamasının ardından davayı düşürdüğü belirtildi.

Olayın, yüz tanıma sistemlerinin düşük kaliteli görüntülerle yetersiz doğruluk göstermesinin ve bu sistemlerin ırksal önyargı içerebilmesinin, haksız tutuklama ve gözaltına yol açabileceğini ve bunun yapay zekâ sistem güvenliği ve yeterlilik eksikliği açısından önemli bir risk oluşturduğunu gösterdiği değerlendirilmektedir.