Facebook’un içerik denetleme sistemlerinin, görsel ve metinlerdeki küçük değişiklikler nedeniyle dezenformasyonu tespit etmekte yetersiz kaldığı öne sürüldü

Uluslararası savunuculuk grubu Avaaz tarafından yayımlanan bir analiz, Facebook’un COVID-19 pandemisi ve ABD seçimlerine yönelik dezenformasyonla mücadele mekanizmalarındaki teknik açıkları ortaya koydu. Rapora göre, kötü niyetli aktörlerin paylaşımlardaki yazı tipini değiştirmek, görselleri kırpmak veya arka plan rengini farklılaştırmak gibi basit yöntemlerle platformun yapay zekâ tabanlı denetim sistemlerini ve uyarı etiketlerini aşabildiği iddia edildi.

Avaaz, Ekim 2019 ile Ağustos 2020 tarihleri arasında bağımsız doğrulama kuruluşları tarafından yalanlanan 1.776 paylaşımı inceledi. Bu inceleme sonucunda, içeriklerin yaklaşık %42’sinin (738 paylaşım) sistem tarafından tespit edilemediği ve herhangi bir uyarı etiketi almadığı belirlendi. Etiketlenmeyen bu içeriklerin yaklaşık 142 milyon kez görüntülendiği ve 5,6 milyon etkileşim aldığı tahmin edilmektedir. Özellikle posta yoluyla oy kullanma ve COVID-19 tedavilerine ilişkin yanlış bilgilerin, metinlerin görsele dökülmesi veya yazı tipinin değiştirilmesi sayesinde sistemin radarına takılmadan yayılabildiği bildirildi.

Facebook yetkilileri, Avaaz’ın bulgularının şirketin aldığı önlemleri tam olarak yansıtmadığını savunarak iddialara karşı çıktı. Şirket, yapay zekâ teknolojisini milyonlarca kopya içeriği tespit etmek için kullandığını ve 150 milyondan fazla içeriğe uyarı etiketi yerleştirdiğini belirtti. Ayrıca, tespit edilen ihlallerde sayfaların dağıtımının azaltılması ve reklam gelirlerinin kesilmesi gibi yaptırımlar uygulandığını bildirdi.

Buna karşın analiz, sistemin neredeyse aynı olan içerikleri görsel veya metinsel varyasyonlar nedeniyle "farklı" algılamasının, dezenformasyonun viral yayılımını engellemede zafiyet oluşturduğunu değerlendirmektedir. Yapay zekânın benzer içerikleri eşleştirme yeteneğindeki bu eksikliğin, kamuoyunu yanıltıcı bilgilerin denetimden kaçmasına ve geniş kitlelere ulaşmasına neden olduğu öne sürülmektedir.