ShotSpotter sisteminin hatalı verileriyle bir kişinin cinayetle suçlanarak yaklaşık bir yıl hapis yattığı iddia edildi

Chicago’da yaşayan 65 yaşındaki Michael Williams’ın, ShotSpotter adlı yapay zekâ destekli silah sesi tespit sisteminden alınan verilere dayanılarak bir cinayet vakasında baş şüpheli olarak tutuklandığı ve yaklaşık 11 ay cezaevinde kaldığı bildirildi. 2020 yılında gerçekleşen olayda savcılık, Williams’ı aracına aldığı bir genci ateş ederek öldürmekle suçlamış; bu suçlamada sistemin sensörleri tarafından kaydedilen ses verilerini temel kanıt olarak sunmuştur.

Dava sürecinde ortaya çıkan bilgilere göre, ShotSpotter algoritmasının söz konusu sesi başlangıçta "havai fişek" olarak sınıflandırdığı, ancak bir şirket analistinin bu veriyi manuel olarak "silah sesi" şeklinde değiştirdiği öne sürülmüştür. Ayrıca sistemin gerçek zamanlı uyarısında yazılı adresin, olayın gerçekleştiği iddia edilen noktadan yaklaşık 1,6 kilometre (bir mil) uzaklıkta olduğu, ancak aynı uyarıdaki GPS koordinatlarının doğru yeri gösterdiği ve daha sonra yazılı adresin bu koordinatlara göre manuel müdahale ile güncellendiği aktarılmıştır. Williams’ın avukatları, sistemin bilimsel geçerliliğinin mahkemede sorgulanması (Frye duruşması) talebinde bulununca, savcılığın ShotSpotter kanıtlarını geri çektiği ve "yetersiz delil" gerekçesiyle davanın düşürülmesini talep ettiği aktarılmıştır.

Associated Press (AP) tarafından yürütülen bir araştırma, sistemin silah seslerini ıskalayabildiğini veya araç egzoz patlaması gibi gürültüleri hatalı sınıflandırabildiğini iddia etmektedir. Chicago Müfettişliği (OIG) tarafından hazırlanan bir rapor ise ShotSpotter uyarılarının yalnızca %9’unda silahla ilgili gerçek bir suç kanıtına ulaşılabildiğini ortaya koymuştur. ShotSpotter şirketi ise iddiaları reddederek sistemin %97 oranında doğruluk payına sahip olduğunu, insan denetiminin sistemin bir parçası olduğunu ve verilerin bağımsız kuruluşlarca doğrulandığını savunmaktadır. Şirket ayrıca, sensörlerin yoğunlukla siyah ve Latin kökenli nüfusun yaşadığı bölgelere yerleştirilmesinin ırksal bir ayrımcılık değil, suç oranlarına dayalı bir strateji olduğunu beyan etmiştir.

Olayın ardından Michael Williams ve benzer şekilde haksız yere gözaltına alındığını iddia eden Daniel Ortiz, Chicago şehrine karşı tazminat davası açmıştır. Davada, polisin güvenilirliği tartışmalı olan teknolojik verilere "kör bir inançla" bağlı kalarak diğer soruşturma ihtimallerini göz ardı ettiği ileri sürülmektedir.