Uber’in yüz tanıma sisteminin cinsiyet uyum sürecindeki sürücüleri hatalı şekilde engellediği ve mağduriyete yol açtığı bildirildi

Uber’in sürücü güvenliğini sağlamak amacıyla kullandığı "Real-Time ID Check" (Gerçek Zamanlı Kimlik Kontrolü) sisteminin, cinsiyet uyum sürecindeki trans sürücülerin hesaplarının askıya alınmasına neden olduğu öne sürüldü. Microsoft Cognitive Services altyapısını kullanan sistemin, sürücülerden rastgele zamanlarda özçekim (selfie) talep ettiği; bu fotoğrafların sistemdeki kayıtlı görsellerle veya sürücü belgesiyle eşleşmemesi durumunda hesapların otomatik olarak dondurulduğu belirtildi.

Iowa’da yaşayan sürücü Janey Webb, fiziksel görünümündeki değişimler nedeniyle sistemin algoritmasına takıldığını ve hesabının deaktive edildiğini bildirdi. Webb, sorunu çözmek için eyaletteki tek fiziksel destek merkezine iki saatlik yol gitmek zorunda kaldığını ve bu süreçte, kazancın yüksek olduğu 4 Temmuz tatili de dâhil olmak üzere üç günlük kazanç kaybı yaşadığını ifade etti. Uber, söz konusu vakayı doğrulamış ancak bu tür sorunların genellikle fiziksel merkeze gitmeden, uygulama veya telefon üzerinden çözülebileceğini savunmuştur.

Benzer şekilde Michigan’dan Lindsay isimli bir başka sürücü, son bir buçuk yılda yaklaşık 100 kez kimlik doğrulamaya zorlandığını ve sistemdeki tutarsızlıklar nedeniyle engellendiğini iddia etti. Uber, sürücünün tam kimlik bilgilerini paylaşmaması nedeniyle bu vakayı bağımsız olarak doğrulayamadığını belirtmiştir. Sürücü Lindsay, sistemin aşırı otomatize edilmesi nedeniyle kendisi gibi kişilerin sistemin açıklarında kalarak mağdur olduğunu ifade etmiştir.