Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
San Francisco’da otomatik plaka tanıma sistemindeki hatanın masum bir sürücünün silah zoruyla gözaltına alınmasına yol açtığı bildirildi
Otomatik plaka tanıma sisteminin bir karakteri yanlış okuması sonucu oluşan hatalı çalıntı araç uyarısı nedeniyle, masum bir sürücünün polis tarafından silah zoruyla durdurularak kelepçelendiği bildirildi.
Olay
30 Mart 2009 tarihinde San Francisco’da Denise Green adlı vatandaşın, polis araçlarında bulunan otomatik plaka tanıma sisteminin (ALPR) yaptığı bir karakterlik okuma hatası nedeniyle "yüksek riskli" polis müdahalesine maruz kaldığı bildirildi. Sistemin, Green’in aracına ait plakadaki bir karakteri yanlış algılayarak aracı sistemde kayıtlı çalıntı bir araçla (gri bir kamyonet) ilişkilendirdiği belirtildi.
Mahkeme kayıtlarına göre, ALPR sistemi gece saat 23:15 sularında gerçekleşen tarama sırasında plaka numarasını yanlış okumuş ve düşük ışık koşulları nedeniyle sistemin oluşturduğu fotoğrafın bulanık olduğu saptanmıştır. Kamera aracındaki görevli memurun, sistemden gelen uyarıyı görsel olarak doğrulamadan ve fotoğrafın okunaksız olduğunu belirtmeden merkeze bildirdiği; takibe katılan diğer polis amirinin ise kırmızı ışıkta duran aracın arkasında beklemesine rağmen plakanın tamamını çıplak gözle kontrol etmediği aktarıldı. Bunun sonucunda Green’in, en az dört polis memuru tarafından silah zoruyla araçtan indirildiği, yere yatırıldığı ve yaklaşık 20 dakika boyunca kelepçeli halde bekletildiği bildirildi.
San Francisco Polis Departmanı (SFPD), başlangıçta olayı memurların "iyi niyetli ve makul bir hatası" olarak savunmuş olsa da, ABD Dokuzuncu Devre Temyiz Mahkemesi bu kararı bozarak davanın yeniden görülmesine hükmetti. Mahkeme görüşünde, SFPD bünyesinde memurlara ALPR uyarılarını doğrulamaları yönünde eğitim verilmesine rağmen, olay tarihinde bu doğrulamayı hangi memurun yapması gerektiğini belirleyen resmi ve net bir görev dağılım politikasının bulunmadığına dikkat çekildi. Sistemin bilinen hata payına rağmen, teknolojik çıktıya aşırı güvenilmesinin ve insan denetimindeki ihmallerin temel hak ihlallerine zemin hazırladığı değerlendirildi.
Olayda kullanılan sistemin teknik kapasitesi ve memurların prosedürleri uygulama biçimi tartışma konusu olmuştur. SFPD yetkilileri, müdahalenin o anki şartlar altında prosedürlere uygun olduğunu iddia etmiştir. Ancak yargı süreci, otomatik sistemlerin sağladığı verilerin kolluk kuvvetleri tarafından mutlak doğru kabul edilmesinin doğurabileceği riskleri ortaya koymuştur.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?