ABD’de kolluk kuvvetlerinin yüz tanıma sistemlerinden gelen yapay zekâ eşleşmelerini bağımsız delil olmaksızın tutuklama gerekçesi yaptığı iddia edildi

The Washington Post tarafından yürütülen bir araştırma, Amerika Birleşik Devletleri’ndeki çok sayıda polis departmanının, yüz tanıma sistemlerinden elde edilen yapay zekâ sonuçlarını yeterli doğrulama yapmadan ve bağımsız delil toplamadan doğrudan tutuklama kararlarına dayanak yaptığını ortaya koydu. İncelenen ve detaylı kayıtlarına ulaşılan 23 polis departmanından 15’inin, sistemlerin "bilimsel olmadığı" ve "tek başına karar mekanizması olarak kullanılmaması gerektiği" yönündeki iç uyarılarına rağmen, yalnızca yazılım eşleşmesine dayanarak şüphelileri gözaltına aldığı bildirildi.

Vaka kapsamında öne çıkan Christopher Gatlin örneğinde, Missouri’deki bir tren istasyonunda gerçekleşen saldırının ardından polisin, düşük kaliteli bir güvenlik kamerası görüntüsünü yüz tanıma sistemine yüklediği belirtildi. Yazılımın sunduğu adaylar arasından seçilen Gatlin’in, olayla bağımsız bir bağı veya şiddet geçmişi olmamasına rağmen tutuklandığı; ismini temizlemesinin ise iki yıldan fazla sürdüğü aktarıldı. Olayda, beyin hasarı nedeniyle saldırganı hatırlamakta güçlük çeken mağdurun, polis memurları tarafından yönlendirilerek Gatlin’i teşhis etmeye zorlandığına dair vücut kamerası kayıtlarının mahkeme dosyasına girdiği ifade edildi.

Araştırma, ülke genelinde yüz tanıma teknolojisi kaynaklı en az sekiz hatalı tutuklama vakasını belgeledi. Bazı polis raporlarında, doğrulanmamış yapay zekâ sonuçlarının "yüzde 100 eşleşme" olarak nitelendirildiği ve geleneksel soruşturma standartlarının terk edilerek yazılım önerilerinin kesin gerçek kabul edildiği gözlemlendi. Clearview AI gibi sistem sağlayıcılarının binlerce polis departmanıyla çalıştığı bilinse de, çoğu kurumun bu teknolojiyi kullanımına ilişkin şeffaf kayıt tutmadığı veya kullanım detaylarını kamuoyuyla paylaşmayı reddettiği vurgulandı.

İlgili polis departmanlarının çoğu konuyla ilgili soruları yanıtsız bırakırken, bazı yetkililer memurların "sağduyusuna" güvendiklerini ve yapay zekânın yalnızca bir araç olduğunu savundu. Ancak belgeler, DNA veya parmak izi gibi somut kanıtların bulunduğu vakalarda dahi, memurların bu kanıtları takip etmek yerine yapay zekâ eşleşmesini "kısayol" olarak kullandığını ve bu durumun "otomasyon önyargısı" (automation bias) riskini artırdığını göstermektedir.