Facebook’un spam filtreleme sistemindeki bir hata nedeniyle COVID-19 pandemisine ilişkin güvenilir haber içeriklerini hatalı şekilde engellediği bildirildi

17 Mart 2020 tarihinde çok sayıda Facebook kullanıcısı; Business Insider, BuzzFeed, The Atlantic ve The Times of Israel gibi saygın medya kuruluşlarına ait COVID-19 içerikli haberleri paylaşırken engellendiklerini raporladı. Platformun, söz konusu haber paylaşımlarını "spam" (istenmeyen içerik) kurallarını ihlal ettiği gerekçesiyle otomatik olarak kaldırdığı ve kullanıcıları uyardığı ifade edildi.

Olayın, COVID-19 pandemisi nedeniyle Facebook’un içerik denetçilerini eve göndermesi ve operasyonlarda otomatik yazılımlara daha fazla dayanacağını açıklamasının hemen ardından gerçekleşmesi dikkat çekti. Eski bir Facebook güvenlik yöneticisi olan Alex Stamos, insan denetiminin azalmasıyla birlikte makine öğrenmesi sistemlerinin yeterli gözetim olmaksızın hatalı kararlar vermiş olabileceği değerlendirmesinde bulundu.

Facebook Bütünlük Birimi Başkan Yardımcısı Guy Rosen, Twitter üzerinden yaptığı açıklamada söz konusu durumun içerik denetim ekibindeki iş gücü değişiklikleriyle bir ilgisi olmadığını savundu. Rosen, sorunun anti-spam sistemindeki teknik bir hatadan kaynaklandığını belirterek, hatalı şekilde kaldırılan tüm gönderilerin geri yüklenmesi için çalışma başlatıldığını açıkladı.

Sistemin tam olarak hangi kriterlere dayanarak bu içerikleri spam olarak sınıflandırdığına dair ayrıntılı bir teknik döküm paylaşılmamıştır. Olay, kriz dönemlerinde otomatik içerik denetim sistemlerinin güvenilir bilgi akışını teknik hatalar nedeniyle kesintiye uğratabileceğini göstermiştir.