Amazon’un “Just Walk Out” sisteminin tam otonom olmadığı ve teknik zorluklar nedeniyle insan denetimine ihtiyaç duyduğu iddia edildi

Amazon’un "Just Walk Out" teknolojisinin, tamamen yapay zekâ ile çalışmadığı ve karmaşık alışveriş senaryolarında zorlandığı öne sürüldü. Mühendis Sean McGregor tarafından paylaşılan bir analizde, sistemin raftan aynı anda alınan birden fazla ürünü (dondurulmuş sebze paketleri gibi) takip etmekte zorlanabileceği ve müşteriyi eksik faturalandırabileceği belirtildi. McGregor, sistemin bu tür hareketleri algılamaktaki olası yetersizliğini bir "kör nokta" olarak tanımladı ve oluşan hataları düzeltmek için müşteriye her zaman anlık bir ödeme seçeneği sunulmadığını ifade etti.

Sistemin arka planında, Hindistan’da bulunan 1.000’den fazla çalışanın mağaza içi kamera görüntülerini izleyerek işlemleri manuel olarak etiketlediği ve doğruladığı iddia edildi. 2022 yılına ait raporlara göre, her 1.000 satıştan yaklaşık 700’ünün insan incelemesinden geçtiği öne sürüldü. Bu durumun, Amazon’un her 1.000 satışta 50’den az inceleme hedefinin gerisinde kaldığı savunuldu. Ayrıca, fişlerin müşterilere ulaşmasının saatler sürmesinin nedeninin, operatörlerin görüntüleri yeniden izleyerek ürünleri müşterilere atama süreci olduğu iddia edildi.

Amazon sözcüsü, verilerin hatalı olduğunu savunarak makine öğrenmesi veri sorumlularının temel görevinin modelleri iyileştirmek için görüntüleri etiketlemek olduğunu belirtti. Şirket, insan operatörlerin yalnızca yapay zekânın satın alma işlemini belirleyemediği "küçük bir azınlık" durumunda doğrulama yaptığını açıkladı. Ancak bu tartışmaların ortasında Amazon, Just Walk Out teknolojisini çoğu Amazon Fresh mağazasından kaldırma kararı aldığını ve bunun yerine akıllı alışveriş sepeti olan "Dash Cart" sistemine geçileceğini duyurdu.

Olay, yapay zekâ sistemlerinin "otonom" olarak sunulmasına rağmen arka planda yoğun insan emeğine bağımlı kalabileceğini ve karmaşık fiziksel ortamlarda bilgisayarlı görü sistemlerinin güvenilirliğinin henüz hedeflenen seviyeye ulaşmadığını göstermektedir.