Uber’in yüz tanıma sistemindeki teknik aksaklıkların Hindistan’daki sürücülerin hesaplarının bloke edilmesine ve hak mahrumiyetine yol açtığı iddia edildi

Hindistan’da Uber platformunda çalışan çok sayıda sürücünün, uygulamaya giriş yapmak için kullanılan yüz tanıma sistemindeki (Real-Time ID Check) hatalar nedeniyle iş kaybı yaşadığı bildirilmiştir. MIT Technology Review tarafından 150 sürücüyle yapılan bir ankette, katılımcıların yaklaşık yarısının selfie doğrulama sorunları sebebiyle hesaplarına erişimlerinin geçici veya kalıcı olarak engellendiği belirtilmiştir. Sürücüler; sakal uzatmak, saç tıraşı olmak gibi dış görünüş değişikliklerinin yanı sıra düşük ışık koşulları ve düşük kaliteli akıllı telefon kameralarının sistem tarafından reddedilme gerekçesi olarak görüldüğünü ifade etmişlerdir.

Vaka kapsamında, Haydarabad’da yaşayan Neradi Srikanth adlı bir sürücünün, dini bir ziyaret sonrası saçlarını kazıtmasının ardından sistem tarafından tanınmadığı ve hesabının bloke edildiği öne sürülmüştür. Uber ise söz konusu sürücünün hesabının yüz tanıma hatası nedeniyle değil, "topluluk kurallarının ihlali" gerekçesiyle kapatıldığını savunmuş; ancak ihlalin içeriğine dair ayrıntı paylaşmamıştır. Şirket, sistemin saç ve sakal gibi doğal fiziksel değişimleri ayırt edebildiğini ve hiçbir hesabın yalnızca yapay zekâ kararıyla tamamen kapatılmadığını (deaktivasyon), bu tür durumlarda fotoğrafların en az iki insan denetçi tarafından manuel olarak incelendiğini belirtmektedir.

Teknoloji politikası araştırmacıları tarafından hazırlanan bir ön çalışma (preprint), Uber’in kullandığı Microsoft Face API sisteminin Hindistanlı yüz hatlarını algılamada diğer sistemlere göre daha yüksek hata payına sahip olabileceğine işaret etmektedir. Araştırmacılar, bu durumun eğitim verisi eksikliğinden kaynaklanabileceği gibi ışık ve açı gibi çevresel faktörlerden de etkilenebileceğini not düşmektedir. Benzer şikayetlerin Birleşik Krallık’ta da yaşandığı, bazı sürücü sendikalarının sistemi "ırksal önyargı" barındırmakla suçladığı ve Uber’e karşı hukuki süreçler başlatıldığı aktarılmıştır. Hindistan’daki yasal düzenlemelerin yetersizliği nedeniyle, sistem hataları sonucu işini kaybeden sürücülerin itiraz süreçlerinde zorluk yaşadıkları ve bu durumun ekonomik güvencesizliği artırdığı vurgulanmaktadır.