Amazon’un yapay zekâ destekli araç içi kamera sisteminin teslimat sürücülerini hatalı şekilde cezalandırdığı iddia edildi

Amazon’un teslimat araçlarına yerleştirdiği Netradyne marka yapay zekâ destekli kamera sistemlerinin, sürücülerin kontrolü dışındaki trafik olaylarını veya güvenli sürüş hamlelerini "hatalı işlem" olarak kaydederek çalışanların performans puanlarını düşürdüğü öne sürüldü. 2021 yılı başında yaygınlaşan sistemin; takip mesafesi ihlali, dur levhası ihlali ve dikkatsiz sürüş gibi olayları tespit etmek üzere görüntü işleme teknolojisi kullandığı bildirilmektedir. Sürücülerin sisteme dahil olmak için biyometrik veri paylaşım onayı verdiği belirtilmektedir.

Çeşitli eyaletlerdeki sürücülerin ve teslimat şirketi sahiplerinin anlatımlarına göre sistemin, başka bir aracın aniden şeride girmesi durumunda sürücüyü takip mesafesini korumadığı gerekçesiyle uyardığı ve puanını düşürdüğü iddia edildi. Ayrıca sürücülerin yan aynaları kontrol etme gibi rutin güvenlik hamlelerinin sistem tarafından "dikkatsiz sürüş" olarak sınıflandırıldığı; kör noktalarda görüş açısı kazanmak için dur levhasından sonra yavaşça ilerlemenin ise "dur ihlali" olarak kaydedildiği belirtildi. Bazı durumlarda sistemin yol kenarındaki "yol ver" levhalarını veya hiçbir levha bulunmayan noktaları hatalı şekilde "dur levhası" olarak algıladığı aktarıldı.

Sürücüler ve teslimat hizmeti ortakları (DSP), bu hatalı bildirimlerin haftalık performans puanlarını düşürdüğünü, bunun da ikramiye ve ek gelir kayıplarına yol açtığını savunmaktadır. Bazı şirket sahipleri ve sürücüler, Amazon’a yapılan itirazların çoğunlukla yanıtsız kaldığını veya sistem verilerinin değiştirilmediğini ileri sürdü. Bazı sürücülerin, yapay zekâdan ceza almamak için kavşaklarda iki kez durmak gibi yöntemlere başvurduğu ifade edildi.

Amazon sözcüsü tarafından yapılan açıklamada ise teknolojinin sürücü güvenliğini artırmak amacıyla kullanıldığı; sistemin devreye alınmasından bu yana kazaların %48, dur levhası ihlallerinin ise %77 oranında azaldığı savunuldu. Ancak bu verilerin hangi kıstaslarla karşılaştırıldığı ve hatalı pozitif oranlarının bu istatistiklere nasıl yansıdığı konusunda bağımsız bir doğrulama yapılamamıştır.