Twitter’ın otomatik görsel kırpma algoritmasının beyaz tenli, genç ve kadın yüzlerine yönelik yanlılık barındırdığının tespit edildiği bildirildi

Twitter’ın (yeni adıyla X) görsellerdeki "en ilgi çekici" alanı tahmin ederek önizleme oluşturmak için kullandığı "belirginlik algoritması"nın (saliency algorithm), belirli demografik grupları sistematik olarak kayırdığı öne sürüldü. 2020 yılı sonlarında kullanıcıların platform üzerinden yaptığı denemeler, sistemin siyah tenli bireyler yerine beyaz tenli bireyleri ön plana çıkardığına dair yaygın iddiaları gündeme getirdi.

Twitter tarafından 2021 yılında yayımlanan ve 10.000 görsel çifti üzerinde yapılan resmî inceleme, sistemdeki yanlılığı doğruladı. Araştırma sonuçlarına göre algoritmanın; beyaz tenli kişileri siyah tenli kişilere göre %4, beyaz tenli kadınları siyah tenli kadınlara göre %7 (eşitlik dengesinden sapma oranı) ve genel olarak kadınları erkeklere göre %8 oranında daha fazla "belirgin" bularak kırpma alanının merkezine aldığı saptandı. Şirket bünyesinde düzenlenen ödüllü hata bulma (bug bounty) yarışmasında ise sistemin; daha genç, zayıf ve açık tenli yüzleri ön plana çıkarma eğiliminde olduğu, ayrıca Latin alfabesini Arap alfabesine tercih ettiği belirlendi.

Kullanıcılar tarafından dile getirilen, algoritmanın kadınların yüzlerinden ziyade vücut hatlarına odaklandığına yönelik "erkek bakışı" (male gaze) iddiaları da incelenmiştir. Ancak Twitter araştırmacıları, bu durumun sistematik bir hata olmadığını; nadir görülen örneklerin forma numaraları veya amblemler gibi yüksek kontrastlı bölgelerden kaynaklanmış olabileceğini değerlendirerek bu iddiayı reddetmiştir.

Şirket, algoritmik kararların kullanıcıların kendilerini ifade etme biçimlerini kısıtladığını kabul ederek, Mayıs 2021 itibarıyla mobil uygulamada tekli görseller için otomatik kırpma özelliğini büyük ölçüde devre dışı bırakmıştır. Sistem, görselleri tam boyutlu gösterecek şekilde güncellenmiş; analizde kullanılan kodlar ise şeffaflık adına paylaşılmıştır.