FaceApp’in "etnik köken" filtrelerinin ırkçı stereotipleri pekiştirdiği ve algoritmik önyargılar nedeniyle ayrımcılığa yol açtığı iddia edildi

Yapay zekâ tabanlı yüz değiştirme uygulaması FaceApp’in, kullanıcıların fotoğraflarını "Siyah", "Asyalı", "Hintli" ve "Beyaz" gibi farklı etnik kökenlere dönüştüren filtreler yayımlaması, küresel çapta bir tepki dalgasına yol açtı. Sosyal medya kullanıcıları ve teknoloji eleştirmenleri, bu filtrelerin "blackface" (siyah surat) gibi ırkçı pratikleri dijital ortama taşıdığını ve saldırgan stereotipleri pekiştirdiğini öne sürdü.

FaceApp CEO’su Yaroslav Goncharov, başlangıçta bu filtrelerin herhangi bir olumlu veya olumsuz yan anlam taşımadığını ve "her açıdan eşit" olacak şekilde tasarlandığını savunarak sistemi savundu. Ancak, artan eleştiriler üzerine şirket geri adım atarak ilgili filtreleri yayımlandıktan birkaç saat sonra sistemden kaldırdı.

Bu olay, uygulamanın benzer bir tartışmayla karşılaştığı ilk durum değildir. Daha önce de "Hot" (Seksi) olarak adlandırılan bir filtrenin, kullanıcıların ten rengini açtığı ve yüz hatlarını Avrupa merkezli güzellik standartlarına göre değiştirdiği bildirilmişti. Şirket yönetimi, bu durumu "kasıtlı bir davranış" olarak değil, yapay sinir ağlarının eğitildiği veri setindeki önyargıların (training set bias) "istenmeyen bir yan etkisi" olarak nitelendirdi. Tepkilerin ardından bu filtrenin adı, olumlu çağrışımları engellemek adına "Spark" olarak değiştirilmiştir.

Olayda temel riskin, yapay zekâ eğitim verilerindeki çeşitlilik eksikliğinin ve kültürel hassasiyetlerin göz ardı edilmesinin, teknolojik araçlar eliyle ayrımcılığı otomatize etmesi olduğu değerlendirilmektedir. Şirket, hatalı çıktıların modelin eğitim sürecindeki teknik kısıtlardan kaynaklandığını savunurken, eleştirmenler bu tür özelliklerin piyasaya sürülmeden önceki denetim süreçlerinin yetersizliğine dikkat çekmiştir.