Google Görseller arama sonuçlarının iş hayatındaki saç modellerine yönelik ırksal önyargıları yansıttığı iddia edildi

2016 yılının Nisan ayında, sosyal medya kullanıcıları tarafından Google Görseller arama sonuçlarında ırksal önyargıların bulunduğu öne sürüldü. Rosalia (Twitter'da @BonKamona) adlı bir kullanıcının paylaştığı ekran görüntülerinde, "iş için profesyonel olmayan saç modelleri" (unprofessional hairstyles for work) araması yapıldığında sonuçların büyük çoğunluğunun doğal saçlı siyah kadınlardan oluştuğu; buna karşın "profesyonel saç modelleri" aramasında ağırlıklı olarak beyaz kadınların gösterildiği bildirildi.

Yapılan incelemelerde, algoritmanın bu sonuçları görsellerin yer aldığı web sayfalarındaki metinler ve etiketler üzerinden eşleştirmiş olabileceği değerlendirildi. "Profesyonel olmayan" kategorisinde sunulan pek çok görselin, aslında siyah kadınların iş yerinde maruz kaldığı saç ayrımcılığını eleştiren veya doğal saçın profesyonelliğini savunan makale ve blog yazılarından çekildiği görüldü. Algoritmanın, içeriğin eleştirel bağlamını (protesto veya tartışma) ayırt edemeyerek "profesyonel olmayan" anahtar kelimesini görselle ilişkilendirdiği ve bu durumun mevcut toplumsal önyargıları dijital ortamda yeniden ürettiği ifade edildi.

Google tarafından yapılan açıklamada, söz konusu sonuçların şirketin görüşlerini yansıtmadığı ve durumun internetteki mevcut içeriklerdeki meta-etiketleme sorunlarından kaynaklanan "toplumsal bir problem" olduğu belirtildi. Şirket, arama motorlarının web üzerindeki mevcut verileri yansıttığını, benzer sonuçların diğer arama motorlarında da görülebileceğini ve sonuçları iyileştirmek için geri bildirimleri dikkate aldıklarını bildirdi.

Olay, algoritmaların tarafsız olduğu varsayımına karşı, eğitim verisi ve internetteki mevcut içeriklerin nasıl sistematik önyargılara yol açabileceğine dair önemli bir tartışma başlatmıştır. Sistemin doğrudan bir "ırkçılık" niyetinden ziyade, bağlamı anlayamama ve veri kirliliği nedeniyle bu sonuçları ürettiği değerlendirilmektedir.