Detroit Polisi’nin kullandığı yüz tanıma yazılımının hatalı eşleştirmesi sonucu bir kişinin haksız yere gözaltına alındığı ve hakkında dava açıldığı bildirildi

Detroit’te yaşayan 26 yaşındaki Michael Oliver’ın, Detroit Emniyet Müdürlüğü (DPD) tarafından kullanılan yüz tanıma yazılımının hatalı bir eşleştirmesi sonucunda haksız yere suçlanarak gözaltına alındığı bildirildi. Mayıs 2019’da bir grup öğrencinin kavgasını videoya çeken bir öğretmenin cep telefonunun elinden kapılmasıyla sonuçlanan olayda polis, zanlının video kaydından alınan bir görüntüsünü DataWorks Plus firması tarafından geliştirilen yüz tanıma yazılımı aracılığıyla tarattı. Yazılımın Oliver’ı olası bir eşleşme olarak sunmasının ardından, soruşturmayı yürüten dedektifin hazırladığı fotoğraf teşhis albümünde mağdur öğretmen tarafından da teşhis edilen Oliver hakkında yakalama kararı çıkarıldı. Temmuz 2019’da gözaltına alınan Oliver, yaklaşık üç gün boyunca nezarette tutulduktan sonra ağır hırsızlık (larceny) suçlamasıyla yargılanmaya başladı.

Oliver’ın avukatı, müvekkilinin kollarında belirgin dövmeler bulunduğunu, oysa video kaydındaki şüphelinin dövmesiz olduğunu ve farklı fiziksel özelliklere sahip olduğunu belirterek teşhisin hatalı olduğunu savundu. Wayne Bölgesi Savcı Yardımcısı Brian Surma ve şikayetçi öğretmenin mahkeme öncesi duruşmada video kayıtlarını tekrar inceleyerek Oliver’ın yanlış kişi olduğunu kabul etmesi üzerine, Eylül 2019’da dava düşürüldü. Ancak bu süreçte işini ve arabasını kaybeden Oliver, uğradığı maddi ve manevi zararlar nedeniyle Detroit şehrine ve ilgili dedektife karşı en az 12 milyon dolarlık tazminat davası açtı.

Detroit Emniyet Müdürlüğü yetkilileri, yüz tanıma sisteminin yalnızca bir "araştırma ipucu" sağladığını, asıl hatanın dedektifin yeterli doğrulama yapmamasından kaynaklandığını savundu. Emniyet Müdürü James Craig, teknolojinin tek başına (insan denetimi olmadan) kullanılması durumunda hata payının %96'ya kadar çıkabileceğini belirterek, sistemin yalnızca yardımcı bir araç olması gerektiğini vurguladı. Yaşanan hatalı gözaltı olaylarının ardından savcılık, yüz tanıma teknolojisinin kullanımına yönelik protokolleri sıkılaştırdığını; sistemin artık yalnızca şiddet içeren ağır suçlarda bir ipucu olarak kullanılmasına ve davaya dönüştürülmeden önce üst düzey savcı onayına tabi tutulmasına karar verildiğini açıkladı.