Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
ShotSpotter sisteminin Chicago’daki gerçek atışları tespit etme oranının vadedilenin altında kaldığı öne sürüldü
Chicago’da yapılan bir iç incelemede, ShotSpotter sisteminin gerçek yaralanmalı silahlı saldırıları tespit etme oranının %47 düzeyinde kaldığı, buna karşın şirketin %90’ın üzerinde doğruluk iddia ettiği bildirildi.
Olay
Chicago Polis Teşkilatı (CPD) bünyesinde görev yapan analist Scott DeDore tarafından Ekim 2017 ile Temmuz 2018 tarihleri arasında tutulan kayıtların, ShotSpotter adlı silah sesi algılama sisteminin performansına ilişkin önemli soru işaretleri doğurduğu bildirildi. Kamuoyuna yansıyan belgelere göre, sistemin incelenen dokuz aylık dönemde bir kişinin vurulduğu teyit edilen 135 olaydan yalnızca 63’ünde doğru bildirim yaptığı; bunun da yaklaşık %47’lik bir doğruluk oranına tekabül ettiği öne sürüldü.
Analiz raporlarında, sistemin performansının zaman içinde büyük dalgalanmalar gösterdiği belirtildi. Örneğin, Mart-Nisan 2018 döneminde 10 olaydan 9’unu başarıyla tespit eden sistemin, Mayıs-Haziran 2018 arasındaki 6 olayın hiçbirinde bildirim yapamadığı aktarıldı. Bu düşük performans verilerine rağmen, dönemin belediye yönetiminin şirketle 33 milyon dolarlık yeni bir sözleşme imzaladığı kaydedildi.
ShotSpotter üreticisi SoundThinking (eski adıyla ShotSpotter Inc.), iddialara doğrudan yanıt vermemekle birlikte, sistemin %90 ve üzeri doğruluk garantisiyle çalıştığını ve bağımsız denetimlerin %97’lik bir başarı oranı gösterdiğini savundu. Ancak söz konusu denetim raporunun bizzat şirket tarafından finanse edildiği ve verilerin bağımsız testler yerine polis bildirimlerine dayandığına dair eleştiriler de haberde yer aldı.
Sistemin başarısızlıklarının bir kısmının, silah seslerinin kapalı mekânlarda gerçekleşmesinden kaynaklanmış olabileceği ihtimali üzerinde durulmaktadır; zira sistemin tasarımı gereği öncelikle açık alandaki sesleri algılaması beklenmektedir. Chicago Polis Teşkilatı konuya ilişkin yorum yapmaktan kaçınırken, sistemin hata payının kamu güvenliği ve kaynak tahsisi üzerindeki etkileri tartışılmaya devam etmektedir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?