Birleşik Krallık’ta yüz tanıma sistemlerinin hatalı eşleşmeleri sonucu masum kişilerin suçlu olarak damgalandığı ve alıkonulduğu bildirildi

Birleşik Krallık'ta hem perakende sektöründe hem de emniyet teşkilatında kullanılan canlı yüz tanıma teknolojilerinin, masum bireyleri hatalı şekilde "suçlu" veya "aranan şahıs" olarak işaretlediği iki ayrı vaka ile gündeme geldi. İlk vakada, "Sara" takma adıyla anılan bir tüketicinin, Home Bargains adlı mağazada Facewatch yazılımı tarafından "hırsız" olarak damgalandığı bildirildi. Yazılımın uyarısı üzerine mağaza personeli tarafından durdurulan kadının çantasının arandığı, mağazadan dışarı çıkarıldığı ve bu teknolojiyi kullanan tüm mağazalara girişinin yasaklandığı aktarıldı. Facewatch şirketinin daha sonra mağdur kişiye bir mektup göndererek sistemin hata yaptığını kabul ettiği; ancak ne şirketin ne de ilgili mağaza zincirinin olay hakkında kamuoyuna ayrıntılı açıklama yapmadığı belirtildi.

Benzer bir durumun Londra Metropolitan Polis Teşkilatı’nın yürüttüğü mobil yüz tanıma operasyonlarında da yaşandığı öne sürüldü. Gençlik hakları savunucusu Shaun Thompson’ın, polis kameraları tarafından "aranan bir şahıs" olarak işaretlenmesi üzerine durdurulduğu, parmak izi vermeye zorlandığı ve yaklaşık 20 dakika boyunca alıkonulduğu ifade edildi. Thompson’ın ancak pasaportunu ibraz etmesiyle serbest bırakıldığı; emniyet yetkililerinin bu özel vaka hakkında yorum yapmadığı ancak hatanın bir aile benzerliğinden kaynaklanmış olabileceği değerlendirildiği aktarıldı.

Metropolitan Polis Teşkilatı verilerine göre, sistemin genel nüfus üzerindeki hata payı düşük olsa da (33.000 kişide 1), sistemin bir eşleşme uyarısı verdiği durumlarda her 40 alarmdan birinin "yanlış pozitif" (hatalı eşleşme) olduğu bildirilmektedir. Sivil haklar örgütleri, bu teknolojinin yasal çerçevesinin belirsiz olduğunu ve bireylerin "suçluluğu kanıtlanana kadar suçlu" muamelesi görmesine yol açan bir "dijital teşhis" ortamı oluşturduğunu savunmaktadır. Met İstihbarat Direktörü Lindsey Chiswick ise teknolojinin suç tespiti açısından DNA profillemesinden bu yana en büyük ilerleme olduğunu ifade etmiştir.

Olaylarda sistemlerin doğrudan fiziksel bir müdahalede bulunmadığı, ancak algoritmik hataların güvenlik görevlileri ve polis memurları tarafından mutlak doğru kabul edilmesinin bireysel özgürlükleri ve tüketici haklarını kısıtladığı değerlendirilmektedir. Hatalı eşleşmelerin ardından yaşanan mağduriyetlerin, sistemlerin doğrulama kapasitesine yönelik tartışmaları artırdığı görülmektedir.