ABD’de yüz tanıma sistemlerindeki hataların üç siyah erkeğin haksız yere tutuklanmasına yol açtığı bildirildi

ABD’nin Michigan ve New Jersey eyaletlerinde, yüz tanıma sistemlerinin hatalı eşleştirmeleri sonucunda Robert Williams, Michael Oliver ve Nijeer Parks adlı üç vatandaşın haksız yere tutuklandığı bildirildi. Olayların, emniyet birimlerinin düşük kaliteli güvenlik kamerası görüntülerini yapay zekâ tabanlı veri tabanlarında taratması ve sistemin sunduğu 'soruşturma ipuçlarını' yeterli ek doğrulama yapmadan tutuklama gerekçesi saymasıyla ilişkilendirildiği aktarıldı.

Robert Williams’ın 2020 yılında Detroit’te bir mağazadan saat çalındığı iddiasıyla ailesinin gözü önünde tutuklanarak 30 saat gözaltında tutulduğu; Nijeer Parks’ın ise 2019’da New Jersey’de bir otel marketindeki hırsızlık ve sonrasındaki araba takibi olaylarıyla suçlanarak 10 gün hapis yattığı belirtildi. Parks, olay anında 30 mil uzakta bir eczaneden para transferi yaptığına dair Western Union makbuzu sunarak suçsuzluğunu kanıtlamıştır. Detroit Emniyet Müdürü James Craig, sistemin tek başına bir kimlik tespit aracı olmadığını, sadece teknolojiye güvenilmesi durumunda vakaların %96'sında doğru sonuca ulaşılamayacağını belirterek yaşananları 'özensiz soruşturma' olarak nitelendirdi.

Teknik incelemeler ve NIST çalışmaları, bazı yüz tanıma algoritmalarının siyah ve Asyalı bireyleri, beyaz bireylere kıyasla çok daha yüksek oranlarda hatalı eşleştirme riskine sahip olduğunu göstermektedir. Yazılım sağlayıcısı DataWorks Plus, sistemin kesin bir kimlik tespiti yapmadığını, yalnızca 'soruşturma ipucu' sunduğunu savunurken; emniyet yetkilileri hataların doğrudan teknolojiden ziyade, sistem çıktılarını kesin kanıt gibi kullanan yetersiz soruşturma tekniklerinden kaynaklandığını öne sürmüştür.

Mağdurların, medeni hak ihlali ve haksız tutuklama gerekçeleriyle ilgili belediyelere ve teknoloji şirketlerine yönelik başlattığı hukuki süreçlerin devam ettiği bildirilmiştir. Olayın ardından Teaneck gibi bazı şehirlerde kolluk kuvvetlerinin yüz tanıma teknolojisi kullanımı yasaklanmıştır.