Facebook’un reklam dağıtım algoritmalarının, reklamverenler hedefleme yapmasa dahi iş ve konut ilanlarında cinsiyet ve ırk temelli ayrımcılığa yol açtığı iddia edildi

Güney Kaliforniya Üniversitesi (USC) ve Northeastern Üniversitesi araştırmacıları tarafından yürütülen çeşitli akademik çalışmalar, Facebook’un reklam dağıtım sisteminin, reklamverenlerin seçimlerinden bağımsız olarak demografik gruplar arasında "çarpık" (skewed) sonuçlar ürettiğini ortaya koymuştur. 2019 ve 2021 yıllarında yayımlanan bulgulara göre, platformun reklamları hangi kullanıcıya göstereceğine karar veren optimizasyon algoritmalarının; iş ve konut gibi yasal olarak korunması gereken alanlarda cinsiyet ve ırk temelli ayrımcılığı sürdürdüğü öne sürülmektedir.

Araştırmacılar, reklamverenlerin hedefleme seçeneklerinde herhangi bir demografik kısıtlama yapmadığı (tarafsız hedefleme) durumlarda dahi, sistemin reklam içeriğine ve platformun "ilgililik" tahminlerine dayanarak dağıtımı belirli gruplara yönlendirdiğini tespit etmiştir. Örneğin, benzer nitelikler gerektiren iki farklı kurye işinden Domino’s (pizza teslimatı) ilanının erkek kullanıcılara, Instacart (market alışverişi) ilanının ise kadın kullanıcılara daha yoğun gösterildiği bildirilmiştir. Benzer şekilde, yazılım mühendisliği ilanlarının Nvidia örneğinde erkeklere, Netflix örneğinde ise kadınlara yönelik olarak sistem tarafından otomatik olarak ayrıştırıldığı aktarılmıştır.

Söz konusu çalışmalar, bu durumun kullanıcıların yetkinlik veya nitelik farklarından kaynaklanmadığını, sistemin geçmiş verilerdeki demografik dağılımları veya pazar maliyeti optimizasyonlarını temel alarak önyargıları yeniden ürettiğini savunmaktadır. Facebook, 2019 yılında konut, istihdam ve kredi reklamlarında demografik hedefleme özelliklerini kısıtlamış olsa da, araştırmacılar bu değişikliğin algoritmanın kendi içindeki dağıtım mekanizmasını düzeltmeye yetmediğini ve ayrımcı sonuçların devam ettiğini belirtmiştir.

Facebook (Meta) yetkilileri konuya ilişkin yaptıkları açıklamalarda, reklam sisteminde ayrımcılıkla mücadele etmek için anlamlı adımlar attıklarını ve sistemin kullanıcıların en çok ilgisini çekecek reklamları sunmak için çok sayıda sinyali değerlendirdiğini ifade etmiştir. Şirket, algoritmik adaleti sağlamaya yönelik çalışmaların devam ettiğini ancak devam eden davalar ve teknik zorluklar nedeniyle süreçlerin karmaşıklığını vurgulamıştır. Bağımsız denetçiler ise platformun algoritmik şeffaflık sağlamadığı sürece bu tür ayrımcı etkilerin bütünüyle engellenemeyeceği yönündeki çekincelerini dile getirmiştir.