Yapay Zekâ Tabanlı Silah Tespit Sisteminin Yanlış Pozitif Üreterek Orantısız Güvenlik Müdahalesine ve Bireysel Hak İhlali Riskine Yol Açtığı Bildirilmektedir

Omnilert tarafından üretilen hatalı bir uyarının, Kenwood High School’da polis aramasına yol açtığı bildirilmektedir.

Maryland eyaletine bağlı Baltimore County’de bulunan okulda, sistem bir öğrencinin elindeki boş Doritos cips paketini silah olarak algıladı. Olay sırasında öğrenci Taki Allen, futbol antrenmanı sonrası arkadaşlarıyla birlikte eve gitmek için beklemekteydi.

Yanlış alarm üzerine olay yerine çok sayıda polis ekibi sevk edildi. Silahlı polisler Allen’a yaklaşarak onu diz çöktürdü, kelepçeledi ve arama gerçekleştirdi. Yapılan inceleme sonucunda öğrencinin silahsız olduğu anlaşıldı.

Sistemin, öğrencinin cips paketini iki eliyle tutuş şeklinin silahı andırması nedeniyle hatalı tespit yaptığı belirtildi. Okul güvenlik birimi alarmı daha sonra iptal etmiş olsa da, bu bilgi okul yönetimi ve polis ekiplerine zamanında ulaşmadı.

Olayın ardından yetkililer, hem yapay zekâ sisteminin doğruluğunu hem de bu tür alarmlara verilen müdahale süreçlerini gözden geçirme çağrısında bulundu.