ABD’de kullanılan öngörücü polislik yazılımlarının algoritmik önyargı ve ırksal ayrımcılığı pekiştirdiği iddia edildi

ABD genelinde Los Angeles, Chicago ve Atlanta dahil olmak üzere çok sayıda polis departmanının, suçun işlenebileceği yerleri ve zamanları tahmin etmek amacıyla PredPol ve HunchLab gibi "öngörücü polislik" yazılımlarını kullanmaya başladığı bildirilmiştir. Bu sistemlerin, geçmiş suç verilerini analiz ederek haritalar üzerinde yaklaşık 150x150 metrelik (500x500 fit) "sıcak noktalar" belirlediği ve devriye ekiplerini bu bölgelere yönlendirdiği aktarılmaktadır. Yazılımların temel amacının, sınırlı polis kaynaklarını daha verimli kullanarak suçu gerçekleşmeden önlemek olduğu ifade edilmektedir.

Ancak sivil haklar savunucuları, hukukçular ve veri bilimciler, bu algoritmaların "kendi kendini doğrulayan bir döngü" (feedback loop) yarattığına dair ciddi çekincelerini dile getirmişlerdir. İddialara göre, sistemlere beslenen geçmiş suç verileri, halihazırda azınlıkların yaşadığı mahallelerdeki yoğun polis denetimini ve ırksal önyargıları yansıtmaktadır. Bu durumun, algoritmanın sürekli olarak aynı bölgeleri "yüksek riskli" olarak işaretlemesine ve bu mahallelerdeki kolluk kuvveti baskısının haksız yere artmasına neden olabileceği değerlendirilmektedir. Brennan Adalet Merkezi gibi kurumlar, bu teknolojilerin anayasal hakları ihlal etme riski taşıdığını ve "istatistiksel olasılıklara" dayanarak bireylerin şüpheli muamelesi görmesine yol açabileceğini belirtmiştir.

Sistemlerin etkinliği konusunda da farklı görüşler mevcuttur. Bazı polis departmanları suç oranlarında %15 ile %30 arasında düşüş yaşandığını iddia ederken, RAND Corporation gibi bağımsız kuruluşlar tarafından yapılan araştırmalar, bu tür yazılımların başarısına dair iddiaların abartılı olabileceğini ve tahminlerin ancak kullanılan verinin kalitesi kadar güvenilir olduğunu vurgulamıştır. Oakland Polis Departmanı gibi bazı kurumlar toplum güvenini zedeleyebileceği gerekçesiyle bu teknolojiyi satın almaktan vazgeçerken; Richmond ve Milpitas gibi departmanlar ise mevcut sözleşmelerini iptal etmiştir.

Yazılım geliştirici şirketler, algoritmaların kişisel verileri veya ırk bilgisini kullanmadığını, yalnızca suç türü, konum ve zaman verilerine odaklandığını savunmaktadır. Bununla birlikte, sistemlerin çalışma prensiplerinin "ticari sır" gerekçesiyle şeffaf olmaması, denetlenebilirliği zorlaştıran bir unsur olarak kaydedilmiştir. Olay, yapay zekâ destekli karar verme mekanizmalarının kamu güvenliği alanındaki etik ve hukuki sınırlarına dair tartışmaları sürdürmektedir.