Facebook’un nefret söylemi algoritmalarının azınlıklara yönelik saldırıları tespit etmede yetersiz kaldığı ve tarafsızlık politikalarının sistematik önyargıya yol açtığı iddia edildi

Eski Facebook çalışanı Frances Haugen tarafından sızdırılan şirket içi belgelere dayanan raporlar, platformun nefret söylemini tespit etmek için kullandığı algoritmik sistemlerin ve "ırktan bağımsız" (race-blind) denetim politikalarının, azınlık grupları hedef alan ağır hakaretleri engellemede başarısız olduğunu ortaya koymuştur. Şirket içi araştırmacıların "En Kötünün En Kötüsü" (Worst of the Worst) olarak adlandırdığı bir proje kapsamında yapılan incelemelerde, platformdaki en zararlı nefret söylemlerinin büyük çoğunluğunun siyahilere, Müslümanlara, LGBTQ+ bireylere ve Yahudilere yönelik olduğu belirlenmiştir.

Belgelere göre, Facebook araştırmacıları bu tür içerikleri kullanıcılar görmeden otomatik olarak silecek daha agresif bir yazılım güncellemesi önerisinde bulunmuş; ancak bu teklifin üst düzey yöneticiler tarafından "tarafsızlık" ilkesine aykırı düşebileceği ve muhafazakâr kesimlerin tepkisini çekebileceği gerekçesiyle reddedildiği öne sürülmüştür. Mevcut algoritmaların, azınlıklara yönelik tarihsel ve sistematik nefret söylemlerini sıklıkla gözden kaçırdığı, buna karşın sistem tarafından silinen nefret söylemi içeriklerinin yaklaşık %90'ının beyazlara veya erkeklere yönelik ifadelerden oluştuğu tespit edilmiştir.

Ayrıca, Facebook’un kamuoyuna açıkladığı başarı oranları ile şirket içi gerçeklik arasında ciddi bir uçurum olduğu iddia edilmiştir. Şirket CEO’su Mark Zuckerberg’in kamuoyuna nefret söylemlerinin %94’ünün proaktif olarak tespit edildiğini beyan etmesine karşın (bu oran silinen içerikler içindeki başarıyı ifade eder), iç yazışmalarda platformdaki toplam nefret söyleminin yalnızca %3 ila %5’ine müdahale edilebildiği belirtilmektedir. Bu durumun, şirketin platformda kalan devasa miktardaki içeriği hesaba katmayan yanıltıcı metrikler kullanmasından kaynaklandığı ileri sürülmüştür.

Facebook sözcüsü Andy Stone, iddialara yanıt olarak şirketin nefret söylemi politikalarını savunmuş ve beyaz milliyetçi grupların yasaklanması gibi önemli adımlar atıldığını belirtmiştir. Stone, "En Kötünün En Kötüsü" projesinin bazı kısımlarının uygulandığını ancak sistemin tümüyle devreye alınmamasının nedeninin, diğer gruplara yönelik otomatik denetimlerin azalmasını önlemek olduğunu ifade etmiştir. Şirket, sivil haklar denetçileriyle şeffaf bir süreç yürütüldüğünü iddia etse de denetçiler, algoritmaların azınlıklar üzerindeki orantısız etkisine dair verilerin kendileriyle paylaşılmadığını bildirmiştir.