Walmart’ın yapay zekâ tabanlı hırsızlık önleme sistemindeki hataların çalışanları sağlık riskine maruz bıraktığı öne sürüldü

Walmart’ın 2.000’den fazla mağazasında kullandığı, İrlanda merkezli Everseen firması tarafından geliştirilen yapay zekâ tabanlı hırsızlık önleme sisteminin, COVID-19 pandemisi sırasında çalışanların sağlığını tehlikeye attığı iddia edildi. Bilgisayarlı görü, makine öğrenmesi ve sinir ağlarını kullanan sistemin, müşterilerin hareketlerini takip ederek taranmadan poşete konulan ürünleri tespit ettiği ve çalışanları müdahale etmeleri için uyardığı bildirilmiştir.

Ancak sistemin, ürünlerin doğru şekilde taranmasına rağmen "hatalı pozitif" (false positive) uyarılar ürettiği; bu durumun çalışanları gereksiz yere müşterilerle yakın temasa zorlayarak sosyal mesafe kurallarını ihlal etmelerine neden olduğu öne sürülmüştür. HuffPost tarafından incelenen kurum içi e-postalarda, şirket çalışanlarının sistemin hatalarını ve pandemide kapatılıp kapatılmaması gerektiğini tartıştıkları aktarılmıştır. Bir Walmart çalışanı, sistemin hataları nedeniyle çalışanların müşterilere 1,8 metreden (6 fit) daha fazla yaklaşmak zorunda kaldığını ve bunun bir sağlık riski oluşturduğunu ifade etmiştir.

Walmart yönetimi, ellerindeki verilerin Everseen programının bir güvenlik sorunu olduğunu göstermediğini savunarak iddiaları reddetmiştir. Şirket sözcüsü, çalışanlara koruyucu ekipman sağlandığını ve kasaların düzenli temizlendiğini belirtmiştir. Everseen firması ise sistemin hata oranına ilişkin ayrıntılı bilgi vermekten kaçınmıştır. Olayda, yapay zekâ sisteminin hata payının pandemi koşullarında çalışan güvenliği üzerindeki etkisi tartışılmakta, ancak sistemin hata sıklığına dair bağımsız ve kesin bir veri bulunmamaktadır.