Facebook ve Twitter’ın Balkan dillerindeki nefret söylemi ve taciz içeriklerini denetlemede yetersiz kaldığı iddia edildi

Balkan Araştırma Ağı (BIRN) tarafından yayımlanan bir çalışma, Facebook ve Twitter’ın Balkan coğrafyasındaki yerel dillerde (Makedonca, Arnavutça, Boşnakça, Sırpça ve Karadağca) yayımlanan nefret söylemi, taciz ve şiddet içerikli paylaşımları yönetmekte güçlük çektiğini ortaya koydu. Araştırma kapsamında toplanan verilere göre, nefret söylemi bildiriminde bulunan kullanıcıların %57’si içeriğin kuralları ihlal ettiğine dair geri bildirim alırken, şiddet tehdidi bildirimlerinin %60’ında kullanıcılara yalnızca şikâyetin alındığına dair bir teyit gönderildiği bildirildi.

Uzmanlar, yapay zekâ ve makine öğrenmesi modellerinin İngilizce dışındaki dillerde ve karmaşık kültürel bağlamlarda yeterli hassasiyete sahip olmadığını, bunun da içeriklerin yanlış sınıflandırılmasına yol açtığını ifade etmektedir. Örneğin, Mayıs 2018’de Bosnalı gazeteci Dragan Bursac’ın, 1990’lardaki bir toplama kampına ait tarihi bir fotoğrafı paylaşması nedeniyle profilinin "topluluk standartlarını ihlal ettiği" gerekçesiyle 24 saatliğine engellendiği aktarıldı.

Facebook yetkilileri, dünya genelinde kaldırılan nefret söylemi içeriklerinin %95’ini proaktif olarak tespit ettiklerini ve karmaşık vakalarda insan denetçilerden yararlandıklarını savundu. Ancak şirket, Balkan dillerinde görev yapan denetçi sayısı veya bu bölgeye özel denetim başarısına ilişkin spesifik verileri paylaşmayı reddetti. Bu durum, otomatik sistemlerin yerel dillerdeki ve kültürel nüanslardaki gerçek performansının bağımsız kaynaklarca doğrulanmasını zorlaştırmaktadır.