Facebook’un "Anlamlı Sosyal Etkileşim" odaklı algoritma güncellemesinin platformdaki kutuplaşmayı ve dezenformasyonu artırdığı öne sürüldü

Facebook’un 2018 yılında Haber Kaynağı algoritmasında yaptığı köklü değişikliğin, platformu daha güvenli hale getirme hedefinin aksine, bölücü içerikleri ödüllendiren bir yapı oluşturduğu iddia edildi. Mark Zuckerberg tarafından duyurulan "Anlamlı Sosyal Etkileşim" (MSI) güncellemesinin, kullanıcıların arkadaş ve aileleriyle etkileşimini artırarak refahlarını yükseltmeyi amaçladığı belirtildi. Ancak kurum içi raporlar, sistemin yan etkilerinin bu hedeflerle çeliştiğine dair uyarılar içeriyordu.

İç belgelere göre, algoritmanın yorum ve paylaşım gibi etkileşimlere verdiği yüksek ağırlık, yayıncıları ve siyasi partileri daha fazla erişim için öfke uyandıran içerikler üretmeye teşvik etti. BuzzFeed CEO’su Jonah Peretti’nin 2018’de Facebook’a gönderdiği e-postada, en bölücü içeriklerin hızla yayıldığını belirttiği aktarıldı. Ayrıca, Avrupa’daki bazı siyasi partilerin, platformda görünür kalabilmek için siyasi pozisyonlarını daha negatif bir çizgiye çekmek zorunda kaldıklarını Facebook’a ilettikleri öne sürüldü.

Facebook veri bilimcileri, özellikle "paylaşılan içerikler" üzerindeki ağırlığın yanlış bilgi ve şiddet içerikli paylaşımların yayılımını kolaylaştırdığını tespit etti. Şirket içindeki dürüstlük ekiplerinin çözüm önerileri sunduğu, ancak Mark Zuckerberg’in etkileşim oranlarında (MSI) önemli bir düşüş yaşanması durumunda bu düzeltmelerin geniş çaplı uygulanmasına sıcak bakmadığı iddia edildi. Şirket sözcüsü Andy Stone ise toplumsal bölünmelerin platformlardan önce de var olduğunu belirterek, algoritmanın kutuplaşmanın ana kaynağı olduğu görüşüne katılmadıklarını ifade etti.

Olayın temelinde, yapay zekâ tabanlı sıralama sistemlerinin etkileşimi optimize ederken toplumsal güvenliği ikincil plana atması riski yatmaktadır. Facebook’un ancak 2021 yılında, Ocak ayındaki Kongre baskını sonrası siyasi içeriklerin ağırlığını azaltmaya yönelik testleri genişlettiği ve etkileşim odaklı metriklerin hassas içeriklerdeki olumsuz etkilerini kabul ettiği belirtilmektedir.