Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Kaliforniya’da daha önce çalınmış bir kiralık aracın plakasının “sıcak liste”de kalması sonucu sürücünün silah zoruyla gözaltına alındığı bildirildi
Güncellenmemiş bir veri tabanına dayanan otomatik plaka tanıma sisteminin hatalı uyarısı sonucunda, iki kişi silah zoruyla gözaltına alındı ve yaklaşık 40 dakika alıkonuldu.
Olay
Brian Hofer ve kardeşinin, 25 Kasım 2018'de Kaliforniya'da seyir halindeyken Vigilant Solutions tarafından işletilen sabit bir plaka tanıma kamerası tarafından "çalınan araç" uyarısı verilmesi üzerine polis tarafından durdurulduğu bildirildi. Hofer’in anlatımına göre, emniyet güçleri her iki kişiyi de araçtan indirerek kelepçeledi; Hofer bu süreçte kardeşinin diz çöktürüldüğünü ve başına silah dayandığını ifade etti. Yaklaşık 40 dakika süren incelemenin ardından kimliklerinin ve araç belgelerinin doğrulanmasıyla serbest bırakıldılar.
Olayın temel nedeninin, sistemin kullandığı "sıcak liste" (hot list) veri tabanındaki bir güncelleme hatası olduğu değerlendirilmektedir. Söz konusu kiralık aracın daha önce çalındığı ancak geri alındığı halde veri tabanından düşülmediği belirtildi. Bu durumun, sistemin hatalı uyarı göndermesine neden olduğu aktarıldı.
Contra Costa County Şerif Ofisi, personelin prosedürlere ve "yüksek riskli durdurma" protokolüne uygun hareket ettiğini savunarak herhangi bir kusur kabul etmedi. Kuzey Kaliforniya Bölgesel İstihbarat Merkezi (NCRIC) verileri bu tür sistemlerin %10 civarında bir hata payına sahip olabileceğini gösterirken, NCRIC direktörü Mike Sena, memurların yalnızca sistem uyarısına dayanarak hareket etmemesi ve verileri doğrulaması gerektiğini belirtti. Hofer, olay sonrası sivil haklarının ihlal edildiği gerekçesiyle federal dava açtı.
Olayda sistemin teknik bir arızasından ziyade, veri tabanlarının güncelliğini yitirmesinin fiziksel güvenlik riskleri oluşturabileceği üzerinde durulmaktadır. Benzer hataların daha önce de yaşandığı ve 2009'daki bir vakanın yüksek tazminatla sonuçlandığı hatırlatıldı.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?