York County’de yapay zekâ destekli plaka tanıma sisteminin hatalı uyarısı nedeniyle bir sürücünün silah zoruyla gözaltına alındığı bildirildi.

ABD’nin Güney Karolina eyaletindeki York County’de, 42 yaşındaki Steven Melvin’in, yapay zekâ tabanlı bir plaka tanıma sisteminin ürettiği hatalı veri sonucunda polis tarafından silah zoruyla durdurulduğu öne sürülerek dava açıldı. 14 Şubat 2024 tarihinde gerçekleşen olayda, Şerif Yardımcısı Kyle Brogden’in, Flock sisteminden gelen "çalıntı araç" uyarısı üzerine Melvin’in aracını durdurduğu, sürücüye silah doğrulttuğu ve yaklaşık beş dakika boyunca elleri başının üzerinde diz çöktürdüğü iddia edildi.

Yapılan incelemede, sistemin Melvin’in plakasındaki bir harfi yanlış okuduğu ve aracın çalıntı kaydı bulunan benzer renkteki başka bir BMW ile karıştırıldığı anlaşıldı. York County Şerif Ofisi, hatanın Melvin’in aracındaki yasal olmayan renkli plaka koruyucusundan kaynaklandığını, bu durumun kameranın okuma yeteneğini bozarak sistemin hata yapmasına (malfunction) neden olduğunu savundu. Ancak dava dosyasında yer alan bilgilere göre, Şerif Ofisi yetkilisi Jeff Cornwell, aynı sistemin söz konusu plakayı olayla aynı ay içerisinde 13 kez doğru şekilde tanımladığını belirtti.

Flock şirketi sözcüsü Paris Lewbel, sistemin yüksek doğrulukla çalıştığını ve hatalı okumaların nadir olduğunu savunurken; kolluk kuvvetlerine, herhangi bir müdahaleden önce plaka ve araç detaylarını bağımsız olarak doğrulama tavsiyesinde bulunduklarını ifade etti. Şerif Ofisi tarafından Kasım 2024'te tamamlanan iç soruşturmada memurun eylemleri "makul" bulunurken, Melvin yaşadığı duygusal travma ve stres nedeniyle kuruma karşı hukuki süreç başlattı.