Hollanda’da yapay zekâ destekli trafik kamerasının başını kaşıyan sürücüyü hatalı algıladığı iddia edildi

Hollanda’da yaşayan ve bir bilişim firmasında yapay zekâ uzmanı olarak görev yapan Tim Hanssen’e, direksiyon başında telefon kullandığı gerekçesiyle 380 avro tutarında trafik cezası kesildi. Hanssen’in itirazı üzerine incelenen kamera kayıtlarında, sürücünün elinde herhangi bir cihaz bulunmadığı, yalnızca sağ eliyle başını kaşıdığı görüldü. Olayın, Hollanda polisinin 2021 yılından bu yana kullandığı ve görüntü analizi yoluyla kural ihlallerini tespit eden Monocam adlı yapay zekâ sistemindeki bir algılama hatasından kaynaklandığı düşünülmektedir.

Kendisi de görüntü işleme algoritmaları üzerine çalışan Hanssen, sistemin "yanlış pozitif" (false positive) bir sonuç ürettiğini belirtti. Hanssen’in analizine göre, sistemin eğitim veri setinde elin kulağa yakın olduğu çok sayıda "telefonla konuşma" örneği bulunurken, elin boş olduğu benzer pozisyonlara dair yeterli veri bulunmamasının bu hataya yol açmış olabileceği öngörülmektedir. Hanssen, algoritmanın nesneyi (telefonu) tespit etmekten ziyade, elin baş bölgesindeki konumuna odaklanarak hatalı bir çıkarım yapmış olabileceğini savunmaktadır.

Söz konusu cezanın, sistemin otomatik uyarısının ardından bir polis memuru tarafından da incelenip onaylandığı belirtildi. Hanssen, yapay zekâ tarafından oluşturulan hatalı çıktının insan denetimi aşamasında fark edilememesini, memurun sistemin uyarısı nedeniyle ön yargılı yaklaşmış olabileceğine bağlamaktadır. Hollanda makamları, bireysel vakalar hakkında yorum yapmasa da sistemin genel hata payının düşük olduğunu ve itiraz süreçlerinin işlediğini ifade etmektedir.

Hanssen’in cezaya karşı resmi itirazda bulunduğu ve sürecin sonuçlanmasının 26 haftayı bulabileceği aktarıldı. Olay, trafik denetiminde kullanılan otonom sistemlerin güvenilirliği ve bu sistemlerin ürettiği verilerin insan operatörler tarafından denetlenme biçimi hakkındaki tartışmaları yeniden gündeme getirmiştir.