ABD’de yüz tanıma sistemlerindeki hataların haksız tutuklamalara yol açtığı ve kolluk kuvvetlerinin teknoloji kullanımını raporlarda gizlediği bildirildi

ABD’de yüz tanıma yazılımlarının hatalı eşleştirmeleri sonucunda çok sayıda kişinin haksız yere tutuklandığı, ancak kolluk kuvvetlerinin bu teknolojiyi kullandığını resmi raporlarda nadiren açıkladığı öne sürüldü. Washington Post tarafından yürütülen bir araştırma, 15 eyaletteki polis departmanlarının son dört yılda 1.000’den fazla soruşturmada yüz tanıma sistemlerinden yararlandığını, ancak sanıklara ve avukatlarına bu konuda bilgi verilmediğini ortaya koydu. Memurların, yapay zekâ tabanlı tespitleri kamuya açık raporlarda "araştırma yöntemleri" veya "güvenilir bir kaynak" gibi muğlak ifadelerle maskelediği iddia edildi.

Bu vakaların en somut örneklerinden biri olarak gösterilen Quran Reid, 2022 yılında hiç gitmediği Louisiana eyaletinde gerçekleşen bir hırsızlık olayıyla ilgili olarak Clearview AI sisteminin hatalı eşleştirmesi sonucu tutuklandı. Jefferson Parish Şerif Ofisi dedektifinin, mahkemeye sunduğu yeminli beyanda yüz tanıma teknolojisinden bahsetmediği, bunun yerine "güvenilir bir kaynaktan tavsiye aldığını" belirttiği aktarıldı. Reid’in avukatının, müvekkilinin yüzündeki ben gibi fiziksel özelliklerin şüpheliyle uyuşmadığını kanıtlaması ve polisin Reid'in olay anında başka eyalette olduğunu teyit eden konum verilerini kontrol etmediğinin ortaya çıkması üzerine dava düşürüldü. Reid’in açtığı federal sivil haklar davası sonucunda, ilgili şerif ofisi herhangi bir kusur kabul etmemekle birlikte 200 bin dolar tazminat ödemeyi kabul etti.

Federal testler ve uzman değerlendirmeleri, yüz tanıma algoritmalarının eğitim verilerindeki eksiklikler nedeniyle kadınlar, yaşlılar ve özellikle siyahi bireyler üzerinde daha yüksek hata payına sahip olduğunu göstermektedir. Clearview AI, sistemin tek başına tutuklama kararı için bir kaynak olarak tasarlanmadığını ve sonuçların mahkemelerde doğrudan delil olarak kullanılmaması gerektiğini belirten sözleşme maddelerine atıf yaptı. Bazı polis departmanları ise teknolojiyi yalnızca "soruşturma ipucu" olarak kullandıkları için açıklama zorunlulukları bulunmadığını savunarak şeffaflık eleştirilerini reddetti.

Olay, yapay zekâ destekli gözetim araçlarının denetimsiz kullanımının adil yargılanma hakkını zedeleyebileceği ve algoritmik hataların doğrudan hürriyeti kısıtlayıcı sonuçlar doğurabileceği tartışmalarını yeniden gündeme getirdi. Birçok eyalette bu teknolojinin kullanımına dair yasal düzenleme bulunmaması, sistemin güvenilirliğinin mahkemelerce sorgulanmasını zorlaştırmaktadır.