Buenos Aires’te kullanılan yüz tanıma sisteminin hatalı eşleşmelerle masum kişilerin tutuklanmasına yol açtığı ve denetim eksikliği nedeniyle kötüye kullanıldığı iddia edildi

Arjantin’in başkenti Buenos Aires’te 2019 yılında devreye alınan yüz tanıma sisteminin, hatalı veri eşleşmeleri sonucunda en az 140 masum kişinin polis tarafından durdurulmasına veya tutuklanmasına yol açtığı bildirildi. Şehrin geniş gözetim altyapısının bir parçası olan sistemin, kamu güvenliğini sağlama amacının ötesine geçerek izinsiz veri toplama ve bireysel takip amacıyla kullanılmış olabileceğine dair adli soruşturmaların devam ettiği aktarıldı.

Sistemin yol açtığı hatalara örnek olarak Guillermo Federico Ibarrola’nın durumu öne çıkarıldı. Ibarrola’nın, 2019 yılında sistem tarafından bir suçluyla karıştırılması sonucu gözaltına alındığı ve beş gün boyunca hapiste tutulduğu belirtildi. Yapılan incelemede, asıl şüphelinin 600 kilometre uzaklıktaki başka bir şehirde yaşayan aynı isimli farklı bir kişi olduğu anlaşıldı. Bu tür "hatalı pozitif" vakalarının, sistemin güvenilirliği ve algoritmik doğruluğu konusundaki endişeleri artırdığı ifade edildi.

Adli makamlarca yürütülen soruşturmada, sistemin sunucularında yapılan incelemeler sonucunda yüz tanıma teknolojisinin büyük veri (big data) tabanı oluşturmak veya belirli kişileri izlemek amacıyla suistimal edilmiş olabileceğine dair bulgulara ulaşıldığı iddia edildi. Sistemin yüz tanıma özelliği, 2020 yılında pandemi gerekçesiyle devre dışı bırakılmış olup, yargı tarafından alınan ihtiyati tedbir kararları nedeniyle kapalı tutulmaya devam etmektedir. Buenos Aires hükümetinin sistemin yeniden aktifleştirilmesi için hukuki mücadelesini sürdürdüğü bildirilmiştir.

Olaydaki belirsizlikler korunmaktadır; sistemin hata oranları, yazılımın hangi standartlarla edinildiği, verilerin nerede ve ne kadar süreyle saklandığına dair teknik detayların kamuoyuyla bütünüyle paylaşılmadığı vurgulanmıştır. Ayrıca, sistemin etkinliğine dair hükümetin sunduğu başarı verileri ile hak savunucularının ve yargı mensuplarının dile getirdiği hak ihlali iddiaları arasında çelişkiler bulunmaktadır.