ABD sınır yönetim uygulaması CBP One’ın yüz tanıma algoritmasında ırksal önyargı bulunduğu ve koyu tenli sığınmacıları engellediği iddia edildi

ABD Gümrük ve Sınır Muhafaza Birimi (CBP) tarafından sığınma başvurularını düzenlemek amacıyla zorunlu kılınan CBP One mobil uygulamasının, yüz tanıma teknolojisindeki algoritmik hatalar nedeniyle koyu tenli sığınmacıların kayıt işlemlerini gerçekleştiremediği öne sürüldü. Sivil toplum kuruluşları ve hak savunucuları; özellikle Haiti ve Afrika ülkelerinden gelen sığınmacıların, sistemin koyu ten tonlarını tanımaması sebebiyle fotoğraf yükleyemediğini ve bu durumun yasal sığınma randevusu almalarını fiilen engellediğini bildirdi.

Uygulamanın, koyu tenli bireylerin yüz hatlarını haritalandırmada başarısız olduğu ve sürekli hata mesajı verdiği aktarıldı. Bazı yardım kuruluşları, sığınmacıların bu teknik engeli aşmak için yüzlerine güçlü inşaat ışıkları tutarak fotoğraf çekmeye çalıştıklarını ancak bu yöntemin de altı yaşından küçük çocuklarda çoğunlukla sonuç vermediğini belirtti. Bu durumun ve sistemin aile üyelerine farklı zamanlarda randevu vermesinin, bazı ailelerin sınırda bölünmesine veya belirsiz bekleme sürelerine yol açtığı iddia edildi. Ayrıca, uygulamanın başlangıçta yalnızca İngilizce ve İspanyolca dil desteği sunmasının (Haiti Kreolü daha sonra eklenmiştir) ve düşük modelli telefonlarda çalışmamasının, savunmasız gruplar üzerindeki dijital engelleri artırdığı değerlendirildi.

ABD Senatörü Edward J. Markey, İç Güvenlik Bakanlığı’na (DHS) gönderdiği resmi mektupta, uygulamanın ırksal ayrımcılığa yol açtığını, biyometrik veri gizliliği riskleri taşıdığını ve sığınma hakkını teknolojik bir bariyere dönüştürdüğünü belirterek sistemin kullanımının durdurulması çağrısında bulundu. Markey, teknolojinin sığınma süreçlerini kolaylaştırabileceğini ancak ekonomik durum, dil veya ırk temelli katmanlı bir sistem oluşturmaması gerektiğini vurguladı.

CBP yetkilileri, uygulamanın bekleme sürelerini azaltmak, süreci güvenli ve düzenli hale getirmek için tasarlandığını savunurken, ırksal önyargı iddialarına ilişkin detaylı bir teknik açıklama sunmadı. Olayla ilgili bulgular büyük ölçüde sivil toplum kuruluşlarının saha gözlemlerine ve kullanıcı anlatımlarına dayanmaktadır. Sistemin algoritmik performansına ilişkin bağımsız denetim raporları kamuoyuyla paylaşılmadığı için hatanın teknik kapsamı ve kaynağı bütünüyle doğrulanabilmiş değildir.