Facebook’un yapay zekâ tabanlı içerik denetleme sistemlerinin şiddet ve nefret söylemini tespit etmede yetersiz kaldığı ve hatalı sınıflandırmalar yaptığı iddia edildi

Facebook’un (Meta) kamuoyuna sunduğu başarı oranlarının aksine, şirket içi belgelerin yapay zekâ tabanlı içerik denetleme araçlarının nefret söylemi ve şiddet içeren içerikleri engellemede beklenenden çok daha düşük performans sergilediğini gösterdiği öne sürüldü. Eski çalışan Frances Haugen tarafından paylaşılan belgelere dayandırılan raporlarda, sistemlerin platformdaki nefret söylemi izlenmelerinin yalnızca %3 ila %5’ini, şiddet ve kışkırtma içeren içerik izlenmelerinin ise sadece %0,6’sını tespit edebildiği iddia edildi. Şirketin kamuoyuna açıkladığı %98’lik "proaktif tespit" oranının, yalnızca sistemin yakalayabildiği içerikler üzerinden hesaplandığı; ancak platformda tespit edilemeden kalan ve raporlanmayan büyük miktardaki içeriği kapsamadığı değerlendirilmektedir.

Belgelerde, yapay zekâ sistemlerinin içerikleri anlamlandırmada ciddi teknik hatalar yaptığına dair örnekler yer aldı. Otomatik denetleme araçlarının horoz dövüşü videolarını "araba kazası", kitle katliamı içeren canlı yayınları ise "paintball oyunu" veya "oto yıkama" olarak yanlış sınıflandırdığı bildirildi. Ayrıca, Afganistan gibi İngilizce dışındaki dillerin yoğun kullanıldığı bölgelerde, yerel hakaret sözlüklerinin ve dil modellerinin yetersizliği nedeniyle nefret söylemi tespit oranının %0,23 gibi çok düşük seviyelerde kaldığı aktarıldı.

Şirket yönetiminin, hatalı içerik kaldırma (yanlış pozitif) işlemlerinden kaçınmak amacıyla modelleri daha muhafazakâr yapılandırdığı; ayrıca operasyonel maliyetleri düşürmek için insan moderatörlerin maliyetini azaltmaya odaklandığı iddia edildi. Facebook sözcüsü Andy Stone, bu iddialara yanıt olarak, platformdaki ihlal edici içeriklerin yaygınlığının (prevalence) azaldığını ve şirketin başarısını içeriklerin ne kadar kişiye ulaştığı metriğiyle ölçtüğünü belirtti. Ancak Color of Change gibi sivil toplum kuruluşları, şirketin bu verileri nasıl hesapladığına dair şeffaflık sağlamadığını savunmaktadır.