Facebook algoritmalarının dijital okuryazarlığı düşük kullanıcıları şiddet ve müstehcen içeriklere daha fazla maruz bıraktığı iddia edildi

Eski Facebook çalışanı Frances Haugen tarafından sızdırılan ve "Facebook Belgeleri" olarak adlandırılan şirket içi araştırma raporlarına göre, platformun içerik sıralama algoritmalarının dijital okuryazarlığı düşük kullanıcıları orantısız şekilde belirli zararlı içeriklere maruz bıraktığı öne sürüldü. 2019 yılında yapılan bir çalışmada, dijital yetkinlik testinde düşük puan alan kullanıcıların, yüksek puan alanlara kıyasla %13,4 daha fazla grafik şiddet ve %11,4 daha fazla müstehcen içerikle karşılaştığı bildirildi. Ancak araştırmacılar, o dönemde "rahatsız edici içerik" tanımları henüz netleşmediği için bu verilerin ihtiyatla karşılanması gerektiğini not etmiştir.

Araştırmalar, bu durumun temel nedenlerinden birinin, dijital yetkinliği düşük kullanıcıların "gizle" veya "takibi bırak" gibi araçları kullanmayı bilmemesi olduğunu göstermektedir. Algoritmaların, kullanıcıların bu içerikleri şikayet etmemesini bir "ilgi belirtisi" olarak yorumlayabildiği ve bir geri besleme döngüsü yarattığı değerlendirilmektedir. Öte yandan, nefret söylemi gibi içeriklerin, bu içerikleri bulmada daha mahir olan yüksek dijital okuryazarlığa sahip kullanıcılarda daha sık görüldüğü saptanmıştır.

Raporlarda sunulan vaka örneklerinde; ırksal nefret ve şiddet içeren videolara maruz kalan bir kullanıcı, "Adsız Narkotik" grubuna katıldıktan sonra alkol reklamları alan bir başka kullanıcı ve tasarruf sayfalarını takip etmeye başladıktan sonra finansal dolandırıcılık reklamlarına boğulan bir kişi gibi somut mağduriyetler aktarıldı. Şirket içi yazışmalarda bir çalışanın, platformun "varsayılan" akış deneyiminin, manuel müdahale olmadıkça rahatsız edici içerikleri barındırdığını ifade ettiği görüldü.

Meta sözcüleri ise iddialara yanıt olarak, platformdaki ihlal edici içerik oranının (prevalans) oldukça düşük olduğunu ve güvenlik için milyarlarca dolar yatırım yapıldığını belirtti. Şirket, sızdırılan belgelerdeki verilerin platformun genel güvenliğini tam olarak yansıtmadığını ve algoritmik iyileştirmelerin devam ettiğini bildirdi.