Facebook’un içerik sıralama sistemindeki bir hatanın dezenformasyon ve zararlı içeriklerin yayılımını artırdığı bildirildi

The Verge tarafından ele geçirilen şirket içi raporlara göre, Facebook mühendisleri Haber Kaynağı’ndaki içeriklerin yaklaşık yarısını "bütünlük risklerine" maruz bırakan "devasa bir sıralama hatası" tespit etti. Ekim 2021’de fark edilen ve 11 Mart 2022’ye kadar devam eden bu teknik aksaklık nedeniyle, sistemin normalde kısıtlaması gereken içeriklerin aksine daha fazla öne çıkarıldığı öne sürüldü.

Hata süresince, bağımsız doğrulama kuruluşları tarafından işaretlenen ve dezenformasyon yaydığı bilinen hesapların paylaşımlarının, sistem tarafından baskılanmak yerine küresel çapta %30’a varan oranlarda daha fazla dağıtıldığı bildirildi. Ayrıca algoritmanın çıplaklık, şiddet ve Rusya’nın Ukrayna’yı işgali sürecinde devlet destekli medya içeriklerini de uygun şekilde geri plana itmekte başarısız olduğu aktarıldı. Şirket içinde "seviye 1 site olayı" (SEV-1) olarak sınıflandırılan bu durumun, yüksek öncelikli bir teknik kriz olarak değerlendirildiği (ancak en kritik seviye olan SEV-0 olmadığı) belirtildi.

Meta sözcüsü Joe Osborne, içerik düşürme sisteminde beş farklı durumda tutarsızlıklar yaşandığını doğruladı ancak bu hatanın metrikler üzerinde "anlamlı ve uzun vadeli bir etkisi" olmadığını savundu. Şirket, Haber Kaynağı'ndaki içeriklerin büyük çoğunluğunun zaten düşürme kriterlerine girmediğini, bu nedenle hatanın toplam izlenmeler içinde çok küçük bir grubu etkilediğini belirtti. Osborne, söz konusu hatanın sistemin silme eşiğini karşılayan içerikleri kapsamadığını, yalnızca görünürlüğü azaltılması gereken "sınırda" içerikleri etkilediğini ifade etti.

Eski bir Facebook çalışanı olan Sahar Massachi, bu tür karmaşık sistemlerde hataların kaçınılmaz olduğunu ancak güçlü sosyal platformların bu tür aksaklıkları konusunda daha fazla şeffaflığa ihtiyaç duyulduğunu belirtti. Olay, yapay zekâ temelli içerik denetleme sistemlerinin denetimsiz kaldığında veya hatalı çalıştığında dezenformasyonla mücadele stratejilerini tersine çevirebileceğine dair bir örnek olarak değerlendirilmektedir.