Facebook’un içerik denetiminde yapay zekâ kullanımının yetersiz kalması nedeniyle moderatörlerin riskli koşullarda çalışmaya zorlandığı iddia edildi

Kasım 2020’de yayımlanan bir açık mektupta, Facebook’un (güncel adıyla Meta) COVID-19 pandemisi sırasında içerik denetimi süreçlerini büyük ölçüde otomatize etmeye yönelik geniş kapsamlı bir deneme yürüttüğü, ancak bu girişimin başarısızlıkla sonuçlandığı ileri sürüldü. Çok sayıda içerik moderatörü ve şirket çalışanı tarafından imzalanan mektupta, yapay zekâ sistemlerinin şiddet, nefret söylemi, çocuk istismarı ve dezenformasyon gibi kritik içerikleri tespit etmede ve sınıflandırmada yetersiz kaldığı savunuldu.

İddiaya göre, Facebook’un içerik denetim algoritmaları hiciv ile ciddi söylemi veya gazetecilik faaliyetleri ile dezenformasyonu birbirinden ayıramamış; bu durum bazı meşru paylaşımların hatalı şekilde kaldırılmasına, buna karşın kendine zarar verme gibi riskli içeriklerin platformda yayılmaya devam etmesine neden olmuştur. Mektupta, algoritmaların içerik denetimi için gerekli bağlamsal analiz düzeyinden oldukça uzak olduğu ve sistemin bu zafiyetinin operasyonel aksaklıklara yol açtığı belirtildi.

Yapay zekâ sistemlerinin bu yetersizliği nedeniyle Facebook yönetiminin, daha önce evden çalışan moderatörleri pandemi risklerine rağmen fiziksel ofislere dönmeye zorladığı öne sürüldü. Çalışanlar, sistemin başarısızlığının faturasının insan emeğine ve sağlığına kesildiğini, otomatize sistemlerin vaat edilen güvenliği sağlayamadığını ifade etti.

Olayla ilgili bilgiler büyük ölçüde moderatörlerin ortak beyanlarına dayanmaktadır. Facebook’un o dönemdeki otomatik denetim performansına ilişkin iç verileri ve algoritmik hata payları kamuya açık bir şekilde paylaşılmadığı için sistemin başarısızlık düzeyi bağımsız kaynaklarca bütünüyle doğrulanamamıştır. Şirket yönetimi ise güvenlik ve gizlilik gerekçeleriyle bazı denetimlerin ofis ortamında yapılması gerektiğini savunmuştur.