New York metrosunda test edilen Evolv yapay zekâlı silah tarama sisteminin yüksek hatalı alarm oranı verdiği ve yanıltıcı pazarlama iddiaları nedeniyle FTC ile uzlaştığı bildirildi

New York Şehri Polis Teşkilatı (NYPD) tarafından paylaşılan verilere göre, 2024 yılı yaz döneminde belirli metro istasyonlarında denenen Evolv marka yapay zekâ destekli silah tarama sisteminin, 30 günlük test süresince hiçbir ateşli silah tespit edemediği bildirildi. Yaklaşık 3.000 tarama sonucunda sistemin 118 kez hatalı alarm verdiği; bu durumun %4,29’luk bir hatalı pozitif oranına tekabül ettiği belirtildi. Testlerde 12 adet bıçak tespit edildiği aktarılsa da, emniyet yetkililerinin bu kesici aletlerin yasal olup olmadığına dair detaylı bilgi paylaşmadığı kaydedildi.

Belediye Başkanı Eric Adams’ın teknoloji odaklı güvenlik vizyonu kapsamında başlatılan pilot uygulama, sivil toplum kuruluşları ve hukuk savunucuları tarafından eleştirildi. Legal Aid Society, elde edilen verilerin programın "nesnel bir başarısızlık" olduğunu savundu. Öte yandan, Evolv CEO’su Peter George’un daha önce yatırımcılarla yaptığı bir görüşmede, elektromanyetik parazitler nedeniyle metro hatlarının sistemin kullanımı için iyi bir kullanım alanı olmadığını bizzat ifade ettiği belirtildi.

ABD Federal Ticaret Komisyonu (FTC), Evolv şirketinin teknolojisinin etkinliği konusunda yanıltıcı iddialarda bulunduğu gerekçesiyle şirketle bir uzlaşmaya varıldığını duyurdu. FTC’nin şikâyetinde, sistemin pazarlama materyallerinde iddia edilenin aksine temel olarak bir metal dedektöründen farkı olmadığı; ancak yapay zekâ vurgusuyla standart cihazlardan çok daha yüksek maliyetlerle sunulduğu iddia edildi. Uzlaşma kapsamında şirketin; silah tespit doğruluğu, hatalı alarm oranları ve sistemin zararsız kişisel eşyaları ayırt etme yeteneği hakkında yanıltıcı beyanlarda bulunması yasaklandı.

NYPD’nin paylaşılan verilerinin kapsamının sınırlı olduğu, tarama süreleri veya personel sayısı gibi operasyonel ayrıntıların açıklanmadığı belirtildi. Evolv şirketinin konuyla ilgili soruları yanıtsız bıraktığı; FTC ile varılan uzlaşmanın, özellikle eğitim kurumlarına yönelik mevcut sözleşmelerin tazminatsız iptal edilebilmesine olanak tanıdığı aktarıldı. Sistemin metro ve diğer kamu alanlarındaki geleceğine ilişkin değerlendirme süreci devam etmektedir.