Facebook’un Doğu Afrika dillerindeki aşırılıkçı içerikleri tespit etmede yetersiz kaldığı ve bu durumun seçim güvenliğini riske attığı öne sürüldü

Stratejik Diyalog Enstitüsü (ISD) tarafından yürütülen iki yıllık bir araştırma, Facebook’un içerik denetim sistemlerinin Doğu Afrika’da faaliyet gösteren Eş-Şebab ve IŞİD bağlantılı aşırılıkçı içerikleri tespit etmekte ciddi zafiyetler yaşadığını ortaya koydu. Raporda; Svahili, Somali ve Arapça dillerinde yayımlanan, terör örgütü logolarını açıkça taşıyan ve şiddet çağrısı yapan paylaşımların platformda engellenmeden yayıldığı belirtildi.

Araştırmacılar, terör örgütlerini destekleyen 445 kamuya açık profilin 17 binden fazla kullanıcıyı etiketleyerek propaganda yaptığını bildirdi. Yapay zekâ algoritmalarının ve insan moderatörlerin, yerel dillerdeki sembolizm ve dilsel nüansları yakalayamadığı; bu durumun özellikle Kenya’daki ulusal seçimler öncesinde dezenformasyon ve nefret söylemi riskini artırdığı değerlendirildi. Bazı resmi örgüt videolarının, herhangi bir gizleme çabası olmaksızın aylarca yayında kaldığı ve on binlerce etkileşim aldığı aktarıldı.

Meta (Facebook), raporun bir kopyasını önceden görme talebi reddedildikten sonra yaptığı açıklamada, terör örgütlerine platformda izin verilmediğini ve bölge dillerine hâkim uzman ekiplerle çalışıldığını belirtti. Şirket, güvenlik gerekçesiyle isim vermeden yaptığı açıklamada bildirilen hesapların bir kısmının kaldırıldığını savundu. Bununla birlikte raporda, moderasyon sistemlerinin diller arası denetim kapasitesindeki eksikliğin demokratik kurumlara olan güveni zedeleyebileceği ve kamu güvenliğini tehlikeye atabileceği uyarısı yapıldı. Ayrıca, dilsel moderasyon sorunları nedeniyle algoritmaların bazen terörle ilgisi olmayan içerikleri de yanlışlıkla hatalı sınıflandırabildiği vurgulandı.