Facebook’un içerik denetimi zafiyetlerinin Myanmar’daki etnik şiddeti ve nefret söylemini körüklediği iddia edildi

Myanmar’da Facebook’un, Arakanlı Müslümanlara (Rohingya) yönelik nefret söylemi, dezenformasyon ve şiddet çağrılarının yayılmasında araç olarak kullanıldığı öne sürülmektedir. Birleşmiş Milletler müfettişleri ve insan hakları örgütleri, platformun Myanmar askeri unsurları tarafından sistematik bir propaganda aracı haline getirildiğini ve bu durumun etnik temizlik faaliyetlerine zemin hazırladığını rapor etmiştir. Myanmar ordusunun; sahte hesaplar, haber sayfaları ve popüler eğlence kanalları üzerinden Müslüman azınlığı hedef alan kışkırtıcı içerikler paylaştığı, bu içeriklerin milyonlarca kullanıcıya ulaştığı bildirilmiştir.

Facebook’un (Meta), bölgedeki risklere karşı yeterli kaynak ayırmadığı ve içerik denetiminde ciddi zafiyetler yaşadığı iddia edilmektedir. 2015 yılı başlarında platformda Birmanca bilen yalnızca iki denetçinin bulunduğu, daha öncesinde ise denetimlerin çoğunlukla İngilizce bilen personelce yapıldığı aktarılmıştır. Denetim süreçlerinin büyük ölçüde Kuala Lumpur merkezli "Project Honey Badger" kod adlı taşeron operasyonlar üzerinden yürütüldüğü, şirketin algoritmik sistemlerinin Birmanca metinleri anlamlandırmada zorluk yaşaması nedeniyle kullanıcı raporlarına aşırı bağımlı kaldığı ve bu durumun nefret söylemi içeren paylaşımların yıllarca yayında kalmasına neden olduğu değerlendirilmektedir.

2021 yılında Arakanlı mülteciler, Meta aleyhine 150 milyar dolarlık bir tazminat davası açarak şirketin ihmalkârlığının gerçek dünyadaki şiddeti tetiklediğini ileri sürmüştür. Meta ise iddialara yanıt olarak; Myanmar ordusunu platformdan yasakladıklarını, Birmanca bilen uzman ekipler kurduklarını ve zararlı içerikleri azaltmak için teknolojik yatırımlar yaptıklarını açıklamıştır. Şirket yönetimi, Myanmar’daki dezenformasyonu önlemede "çok yavaş kaldığını" kabul etmiş; hukuki süreçlerde ise ABD’deki "Bölüm 230" (Section 230) düzenlemesi uyarınca üçüncü taraf içeriklerinden sorumlu tutulamayacağını savunmuştur. Ancak hukuk uzmanları, yabancı hukukun bu tür davalarda uygulanabilirliği konusunda emsal eksikliğine dikkat çekmektedir.

Olayda yapay zekâ ve algoritmik sistemlerin, nefret söylemini tespit etmedeki yetersizliği ve etkileşim odaklı yapısı nedeniyle zararlı içeriklerin yayılımını hızlandırmış olabileceği üzerinde durulmaktadır.