Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
ShotSpotter akustik silah sesi tespit sisteminin doğruluk oranı ve raporların manuel olarak değiştirildiği iddiaları tartışmalara yol açtı
ShotSpotter sisteminin doğruluğunun sorgulandığı, insan operatörlerin raporlara müdahale edebildiği ve sistemin azınlık mahallelerinde haksız polis baskısına yol açabileceği iddia edilmektedir.
Olay
Amerika Birleşik Devletleri genelinde birçok polis departmanı tarafından kullanılan ShotSpotter adlı akustik silah sesi tespit sisteminin etkinliği ve doğruluğu üzerine çeşitli eleştirel raporlar yayımlanmıştır. Yapay zekâ algoritmaları ve mikrofon ağlarını kullanarak silah seslerini gerçek zamanlı olarak tespit etmeyi amaçlayan sistemin, üretici firma tarafından %97 oranında doğru çalıştığı iddia edilse de, bağımsız incelemeler ve yerel polis verileri bu oranların daha düşük olabileceğine işaret etmektedir.
Associated Press (AP) tarafından elde edilen belgelere dayandırılan iddialara göre, sistemin yapay zekâ algoritması tarafından üretilen sonuçlar, ShotSpotter çalışanları tarafından yaklaşık %10 oranında değiştirilmektedir. İnsan operatörlerin, algoritmanın sınıflandırmalarını değiştirme veya konum verilerini güncelleme yetkisine sahip olduğu bildirilmiştir. Bazı eleştirmenler bu müdahalelerin kolluk kuvvetlerinin ihtiyaçlarına hizmet edecek şekilde raporları manipüle etmek amacıyla kullanılabileceğini öne sürerken; şirket bu durumu, doğruluğu artırmaya yönelik bir "kalite kontrol süreci" olarak savunmaktadır.
MacArthur Adalet Merkezi ve ACLU gibi kuruluşların raporlarında, sistemin Chicago ve Newark gibi şehirlerdeki performansına dikkat çekilmiştir. Chicago’da yapılan bir incelemede, sistemden gelen uyarıların %89’unun silahla ilgili herhangi bir suçla sonuçlanmadığı; Newark’ta ise uyarıların %75’inin asılsız çıktığı belirtilmiştir. Bu durumun, polis ekiplerinin asılsız ihbarlarla azınlıkların yoğunlukta olduğu mahallelere sevk edilmesine neden olduğu ve bu bölgelerde durdurma ve arama gibi uygulamaları artırabileceği iddia edilmektedir.
Ayrıca, sistemin kullandığı mikrofonların yaklaşık 15 metre mesafeye kadar insan konuşmalarını kaydetme potansiyeline sahip olduğu ve geçmişte bazı kayıtların mahkemelerde delil olarak kullanıldığı bildirilerek özel hayatın gizliliğine dair çekinceler dile getirilmiştir. Portland ve Syracuse gibi şehirlerde sistemin maliyet-etkinlik dengesi sorgulanırken, bazı yerel yetkililer sistemin 911’e bildirilmeyen olayları tespit etmede hâlâ değerli bir araç olduğunu savunmaktadır. ShotSpotter ise eleştirilerin metodolojik olarak hatalı olduğunu ve sistemin hayat kurtarma potansiyelinin göz ardı edildiğini ileri sürmektedir.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
- [6]
- [7]
- [8]
- [9]
- [10]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?