Duygu tanıma teknolojilerinin siyahi erkeklerin yüz ifadelerini beyaz bireylere kıyasla daha negatif algıladığı ve ırksal önyargı barındırdığı öne sürüldü

Dr. Lauren Rhue tarafından gerçekleştirilen bir araştırma, yaygın olarak kullanılan yüz tanıma ve duygu analizi sistemlerinin ırksal önyargı barındırdığını ve siyahi erkeklerin yüz ifadelerini sistematik olarak daha negatif değerlendirdiğini ortaya koydu. Çalışmada, 2016-2017 sezonuna ait 400 NBA oyuncusunun profesyonel fotoğrafları kullanılarak Face++ ve Microsoft Face API yazılımlarının performansları incelendi. Oyuncuların yaş, cinsiyet ve kıyafet gibi değişkenler açısından benzerlik göstermesine rağmen, sistemlerin siyahi oyunculara beyaz meslektaşlarından daha yüksek "negatif duygu" puanları verdiği saptandı.

Bulgulara göre Face++, siyahi oyuncuların yüzlerini beyaz oyunculara kıyasla ortalama iki kat daha "öfkeli" olarak sınıflandırdı. Benzer şekilde Microsoft Face API’nin, siyahi bireylerde "aşağılama" (contempt) duygusunu ortalama üç kat daha fazla tespit ettiği, ancak bu durumun özellikle yüz ifadesindeki belirsizlik anlarında belirginleştiği bildirildi. Örnek vakalarda, benzer gülümseme puanlarına sahip olan Darren Collison (siyahi) ve Gordon Hayward (beyaz) kıyaslandığında; Face++ yazılımının Collison’ı Hayward’dan çok daha öfkeli, Microsoft’un ise daha az mutlu ve daha "aşağılayıcı" bir ifadeye sahip olarak tanımladığı aktarıldı.

Araştırma, bu tür algoritmik önyargıların iki farklı şekilde ortaya çıktığını değerlendirmektedir: Birincisi, Face++ örneğinde olduğu gibi gülümseme derecesinden bağımsız olarak siyahi yüzlere doğrudan daha fazla öfke atfedilmesi; ikincisi ise Microsoft örneğinde olduğu gibi yüz ifadesindeki belirsizlik durumlarında sistemlerin siyahi bireyler aleyhine negatif varsayımlarda bulunmasıdır. Microsoft sisteminde gülümseme belirginleştikçe bu farkın ortadan kalktığı gözlemlenmiştir. Bu durumun, işe alım süreçlerinde kullanılan video mülakat analizleri veya güvenlik sistemleri gibi gerçek dünya uygulamalarında siyahi bireyler aleyhine haksız sonuçlar doğurabileceği uyarısı yapıldı.

Çalışma, yapay zekâ sistemlerinin insanlardaki mevcut toplumsal stereotipleri algoritmik düzeye taşıyabileceğine dikkat çekmektedir. İlgili sistemlerin bu önyargıları giderecek şekilde güncellenip güncellenmediğine dair kesin bir bilgi kaynaklarda yer almamakla birlikte, araştırmacı bu tür teknolojilerin şeffaflık ve hesap verebilirlik çerçevesinde denetlenmesi gerektiğini vurgulamıştır.