PULSE adlı görüntü ölçeklendirme sisteminin beyaz olmayan bireylerin yüzlerini beyazlaştırdığı ve algoritmik önyargı tartışmalarına yol açtığı bildirildi

Duke Üniversitesi araştırmacıları tarafından geliştirilen ve düşük çözünürlüklü fotoğrafları yüksek çözünürlüklü "hayali" yüzlere dönüştüren PULSE adlı algoritmanın, beyaz olmayan bireylerin görüntülerini Kafkas özelliklerine sahip yüzlere dönüştürdüğü gözlemlendi. Sosyal medyada paylaşılan örneklerde, ABD'nin eski başkanı Barack Obama'nın pikselli fotoğrafının sistem tarafından beyaz bir erkek olarak kurgulandığı görüldü. Bağımsız araştırmacıların Lucy Liu ve Kongre Üyesi Alexandria Ocasio-Cortez gibi isimlerin fotoğraflarıyla yaptığı denemelerde de benzer şekilde beyaz özelliklere sahip sonuçlar elde edildiği bildirildi.

PULSE sisteminin, NVIDIA tarafından geliştirilen StyleGAN modelini kullandığı belirtildi. Sistemin çalışma prensibi, orijinal görüntüyü iyileştirmek yerine, piksellendiğinde girdiyle eşleşen tamamen yeni bir yüz "hayal etmek" üzerine kuruludur. Araştırmacılar Sachit Menon ve Alex Damian, bu durumun temel nedeninin StyleGAN'in eğitildiği veri setindeki dengesizlikten kaynaklanabileceğini kabul etti. Yapılan incelemelerde, StyleGAN eğitim verilerinin yaklaşık %72,6'sının beyaz bireylerden oluştuğu, siyahi bireylerin oranının %10,1, Hintli bireylerin ise %3,4'te kaldığı saptandı.

Olay, yapay zekâ camiasında geniş çaplı bir akademik tartışmayı tetikledi. Facebook Baş Yapay Zekâ Bilimcisi Yann LeCun, sorunun temel olarak veri seti yanlılığından kaynaklandığını savunurken; Timnit Gebru ve Deborah Raji gibi araştırmacılar, sorunun yalnızca veriyle sınırlı olmadığını, araştırma aşamasındaki çeşitlilik eksikliği ve sosyal bağlamın ihmal edilmesinin de bu tür sonuçlara yol açtığını ileri sürdü. PULSE geliştiricileri, sistemin önyargılı sonuçlar ürettiğini doğrulayarak akademik çalışmalarına bu durumu açıklayan uyarı bölümleri ekledi.

NVIDIA sözcüsü, şirketin çeşitlilik ve kapsayıcılık konularını ciddiye aldığını ve mevcut modellerdeki önyargıları aşmak için çalıştıklarını belirten genel bir açıklama yaptı. Geliştiriciler, sistemin performansını ölçmek için kullanılan CelebA veri setinin %90'ının beyaz bireylerden oluşması nedeniyle, modeldeki yanlılığın başlangıçta fark edilemediğini ifade etti.