Yeni Zelanda’da bir süpermarketin yüz tanıma sistemindeki hatalı eşleşmenin bir müşterinin haksız yere suçlanmasına yol açtığı bildirildi

Yeni Zelanda’nın Rotorua kentindeki New World Westend süpermarketinde, yüz tanıma teknolojisinin (FRT) deneme sürecinde Māori kökenli bir müşterinin, daha önce mağazaya girişi yasaklanmış bir kişiyle karıştırıldığı bildirildi. Te Ani Solomon adlı müşterinin anlatımına göre, mağaza görevlileri sistemdeki bir eşleşmeye dayanarak kendisinin mağazadan menedildiğini (trespassed) ve derhal terk etmesi gerektiğini yüksek sesle dile getirdi. Solomon, görevlilerin telefonundaki sistem görüntüsünde şapka takan başka bir Māori kadının yer aldığını, kendisinin de o sırada şapka takıyor olması nedeniyle hatalı bir görsel eşleşme yapıldığını öne sürdü.

Müşterinin üç farklı kimlik belgesi sunmasına rağmen görevlilerin müdahalesini yaklaşık 10 dakika boyunca sürdürdüğü ve olayın mağaza içinde utanç verici bir duruma yol açtığı aktarıldı. Foodstuffs sözcüsü, yaşananların bir "insan hatası" olduğunu kabul ederek müşteriden özür diledi. Şirket, sistem bir uyarı verdiğinde personelin bu eşleşmeyi iki aşamalı olarak doğrulaması gerektiğini, ancak bu vakada personelin yeterince ihtiyatlı davranmayarak hatalı bir yaklaşım sergilediğini açıkladı.

Olayın ardından Yeni Zelanda Gizlilik Komiserliği, Foodstuffs bünyesindeki 25 mağazada yürütülen altı aylık deneme süreci hakkında inceleme başlattı. Komiserlik, yüz tanıma yazılımlarının küresel ölçekteki performansının, özellikle beyaz olmayan bireylerde ve kadınlarda hatalı eşleşme riskinin daha yüksek olduğunu gösterdiğine dikkat çekti. Ayrıca, kullanılan yazılımın Yeni Zelanda popülasyonu üzerinde eğitilmemiş olmasının, Māori ve Pasifik kökenli bireylere yönelik algoritmik önyargı ve ayrımcılık riskini artırabileceği değerlendirilmektedir.

Tüketici hakları savunucuları, bu tür teknolojilerin mahremiyet açısından "istilacı" olduğunu ve hatalı eşleşmelerin bireyler üzerinde "terörize edici" bir etki yaratabileceğini belirtti. Mağaza yönetimi ise perakende suçlarındaki artış nedeniyle bu teknolojiyi denediklerini, ancak personelin yeniden eğitimden geçirileceğini bildirdi.