Uber Eats kuryesinin, yüz tanıma sistemindeki "ırksal önyargı" nedeniyle haksız yere işten çıkarıldığı iddiasıyla dava açtığı bildirildi

Pa Edrissa Manjang adlı bir kurye, Uber Eats tarafından kullanılan yüz tanıma yazılımının ırksal önyargıya sahip olduğu ve bu durumun haksız işten çıkarılmasına yol açtığı iddiasıyla Birleşik Krallık'ta hukuki süreç başlattı. Manjang, sisteme giriş yaparken kimlik doğrulaması amacıyla defalarca özçekim (selfie) yapmasının istendiğini, ancak yazılımın kendisini hatalı bir şekilde başka biri olarak tanımladığını veya profil fotoğrafıyla eşleşme sağlayamadığını öne sürdü.

Davacı, Uber Eats'in fotoğrafları bir insanın incelemesi yönündeki taleplerini başlangıçta karşılıksız bıraktığını ve hesabının "süregelen eşleşme hataları" gerekçesiyle kapatıldığını belirtti. Manjang, bu sürecin ırksal taciz boyutuna ulaştığını ve etnik kökeni nedeniyle daha sık ve hatalı denetimlere maruz kaldığını iddia etmektedir. Doğu Londra İş Mahkemesi, Uber'in davanın düşürülmesi yönündeki talebini reddederek sürecin tam bir duruşma ile devam etmesine karar vermiştir.

Uber sözcüsü ise Manjang'ın hesabına erişimini kaybetmesinin temel nedeninin otomatik yüz doğrulama sistemi olmadığını savunmaktadır. Şirket, "Gerçek Zamanlı Kimlik Kontrolü" sisteminin güvenlik amaçlı kullanıldığını ve kararların denetimsiz bir şekilde alınmadığını, sistemin "güçlü bir insan incelemesi" süreci içerdiğini iddia etmektedir. Ancak kuryeyi destekleyen Uygulama Sürücüleri ve Kuryeler Birliği (ADCU), Uber'in işten çıkarma sürecine ilişkin temel gerçekleri şeffaf bir şekilde açıklamadığını ileri sürmektedir.

Kaynaklarda yer alan uzman görüşlerine göre, yüz tanıma sistemleri eğitim verilerindeki dengesizlikler nedeniyle etnik azınlıklara mensup kişileri tanımlarken beyaz erkeklere kıyasla daha düşük doğruluk oranı sergileyebilmektedir. Olay, algoritmik sistemlerin iş gücü üzerindeki denetimsiz etkisi ve potansiyel ayrımcılık riskleri açısından tartışılmaktadır.