Google Görsel Arama sonuçlarının "üç siyahi genç" sorgusunda sabıka fotoğraflarını öne çıkarması algoritmik önyargı tartışmalarını tetikledi

6 Haziran 2016 tarihinde Virginia'da yaşayan 18 yaşındaki Kabir Alli'nin sosyal medyada paylaştığı bir video, Google Görsel Arama sonuçlarındaki etnik eşitsizliği gündeme getirdi. Alli'nin aramasında, "üç beyaz genç" sorgusu için neşeli stok fotoğraflar listelenirken; "üç siyahi genç" araması yapıldığında sonuçların önemli bir kısmının sabıka fotoğraflarından oluştuğu görüldü.

Google sözcüsü, sonuçların internetteki mevcut içeriğin ve görsellerin tanımlanma biçimlerinin bir yansıması olduğunu, şirketin kendi görüşlerini yansıtmadığını belirtti. Analistler ve haber kaynakları, bu durumun temel nedeninin arama motoru optimizasyonu (SEO), alt etiket kullanımı ve haber sitelerinin suç haberlerinde kullandığı dil olduğunu; stok fotoğraf sitelerinde siyahi gençlerin olumlu temsillerinin beyaz gençlere oranla daha az yer bulmasının da sonuçları etkilediğini ifade etti.

Kabir Alli, Google'ın kurumsal olarak ırkçı olduğunu düşünmediğini ancak şirketin bu tür sonuçlar üzerinde daha fazla kontrol sahibi olması gerektiğini belirtti; Google'ın da bu eleştiriye hak verdiği kaydedildi. Benzer sorunların daha önce "iş hayatına uygun olmayan saç modelleri" aramalarında ve Google Fotoğraflar'ın hatalı etiketleme vakasında da yaşandığı hatırlatıldı. Olay, algoritmanın toplumsal önyargıları filtrelemedeki rolü ve internetteki veri dağılımının sonuçlara etkisi üzerine kamuoyunda tartışma başlattı.