Chicago Polis Teşkilatı’nın suç öngörü algoritması SSL’in etkinliği ve şeffaflığına dair tartışmalar nedeniyle kullanımdan kaldırıldığı bildirildi

Chicago Polis Teşkilatı (CPD), yaklaşık on yıl boyunca kullandığı ve bireylerin silahlı şiddet olaylarına karışma ihtimalini tahmin etmeyi amaçlayan "Stratejik Özne Listesi" (SSL) adlı sistemi Kasım 2019’da kullanımdan kaldırdı. Müfettiş Genel Ofisi (OIG) raporlarında, sistemin operasyonel etkinliği, risk puanlarının güvenilmezliği ve personel eğitimindeki yetersizlikler gibi ciddi çekinceler dile getirildi. Temmuz 2018 itibarıyla yaklaşık 400.000 kişiye risk puanı atayan sistemin, uzun vadeli bir sürdürülebilirlik planı olmadığı değerlendirildi.

RAND Corporation tarafından yapılan bağımsız bir araştırma, SSL'in (2013 versiyonu) şehir genelindeki şiddet oranlarını düşürmede somut bir katkı sağlamadığını ortaya koydu. Araştırmacılar, listedeki kişilerin şiddet olayları nedeniyle tutuklanma olasılığının yüksek olduğunu ancak bunun algoritmanın başarısından ziyade polisin bu kişileri hedef almasından kaynaklanabileceğini not etti. Ayrıca eleştirmenler, algoritmanın suçun kendisinden ziyade polisin geçmişteki müdahale kalıplarını modelleyerek azınlık grupları üzerinde haksız bir baskı ve "kendi kendini doğrulayan bir geri besleme döngüsü" yaratabileceği uyarısında bulundu.

CPD yetkilileri, RAND araştırmasının eski bir versiyona dayandığını ve yeni sürümlerin çok daha yüksek doğruluğa sahip olduğunu savundu. Ancak sistemin şeffaflıktan uzak yapısı tepki çekmeye devam etti. New York Times'ın veriler üzerinden yaptığı tahminler, yaş faktörünün ve geçmişte mağduriyet yaşamış olmanın risk puanını belirleyen en güçlü değişkenler olabileceğini gösterdi. Sistemin, mahkûmiyetle sonuçlanmayan gözaltı kayıtlarını da puanlamaya dâhil etmesinin etik sonuçları tartışma konusu oldu.

Müfettiş Genel Ofisi, SSL vakasının veri odaklı polislikte şeffaflık ve hesap verebilirliğin önemini gösteren bir ders niteliğinde olduğunu ifade etti. CPD, bu spesifik risk modelini devre dışı bırakırken, gelecekteki veri stratejilerinde daha sıkı denetim mekanizmalarının uygulanacağını bildirdi.