Cybercheck adlı yapay zekâ suç analiz aracının hatalı ve doğrulanamaz kanıtlar üreterek yargı süreçlerini yanılttığı iddia edildi

Kanada merkezli Global Intelligence Inc. tarafından geliştirilen ve ABD genelinde 300'den fazla kolluk kuvveti tarafından kullanılan Cybercheck adlı yapay zekâ sisteminin güvenilirliği hakkında ciddi şüphelerin ortaya çıktığı bildirildi. Sistemin, açık kaynak verilerini ve 700’den fazla algoritmayı kullanarak şüphelilerin geçmişteki veya anlık konumlarını %90’ın üzerinde doğrulukla belirleyebildiği iddia edilmektedir. Ancak yapılan incelemeler, sistemin sunduğu kanıtların bilimsel temelden yoksun olabileceğini ve denetlenemez bir "kara kutu" olarak çalıştığını öne sürmektedir.

Sistemin güvenilirliğine dair en somut eleştiri, Ohio’daki Phillip Mendoza davasında ortaya çıkmıştır. Sisteme cinayet tarihinden 18 gün sonrası (20 Ağustos) için yapılan sorgulamada, Cybercheck’in şüpheliyi olay yerinde gösteren %93,13 doğruluk oranlı bir rapor ürettiği aktarıldı. Daha sonra doğru tarih (2 Ağustos) için yapılan sorgulamada, sistemin saniye verileri, MAC adresleri ve doğruluk oranları dahil olmak üzere bir öncekiyle tamamen aynı raporu sunduğu belirlendi. Savunma uzmanları, bir kişinin iki farklı tarihte, aynı konumda, saniyelerle ölçülen aynı süre boyunca bulunmasının ve aynı kablosuz ağlarla etkileşime girmesinin teknik olarak imkansız olduğunu belirterek sistemin meşruiyetini sorguladı.

Şirketin kurucusu Adam Mosher’ın mahkemelerdeki yeminli ifadelerinde sistemin Saskatchewan Üniversitesi tarafından hakemli incelemeden (peer-review) geçtiğini beyan ettiği, ancak üniversite yetkililerinin bu iddiayı yalanladığı bildirildi. Ayrıca Mosher’ın sistemin işleyişine dair ayrıntıları "ticari sır" gerekçesiyle paylaşmayı reddettiği; bağımsız uzmanların ise sistemin iddia edildiği gibi karmaşık makine öğrenmesi modelleri yerine basit internet taramaları yapıyor olabileceğini değerlendirdiği kaydedildi.

New York ve Ohio’daki bazı hakimlerin, metodolojisinin şeffaf olmaması ve güvenilirliğinin kanıtlanamaması nedeniyle Cybercheck raporlarını delil olarak kabul etmediği aktarıldı. Buna karşın, sistemin sunduğu verilere dayanılarak verilmiş cinayet mahkûmiyetlerinin bulunduğu; savunma avukatlarının ise bu durumun adil yargılanma ve hukuki süreç haklarını ihlal ettiğini savunduğu belirtildi. Global Intelligence Inc. devam eden davaları gerekçe göstererek iddialar hakkında ayrıntılı açıklama yapmaktan kaçınmıştır.