Facebook ve Twitter’ın içerik denetleme algoritmalarının Filistinli aktivistlerin paylaşımlarını hatalı şekilde engellediği bildirildi

2021 yılı Mayıs ayında İsrail ve Filistin topraklarında yaşanan çatışmalar sırasında, Facebook ve Twitter’ın yapay zekâ temelli içerik denetleme sistemlerinin, milyonlarca Filistin yanlısı paylaşımı ve hesabı hatalı şekilde kısıtladığı öne sürüldü. Aktivistler ve dijital haklar örgütleri, sistemlerin sahadaki durumu aktaran kritik içerikleri engellediğini savunurken; teknoloji şirketleri yaşanan aksaklıkları yapay zekâ yazılımlarındaki teknik hatalara (glitch) dayandırdı.

Twitter tarafından yapılan açıklamada, çatışmalar sırasında artan yoğun paylaşım trafiğinin sistem tarafından "spam" olarak yanlış tanımlandığı, bu nedenle yüzlerce hesabın geçici olarak kilitlendiği bildirildi. Facebook (Instagram) tarafında ise nefret söylemi tespit yazılımının, protestolarla ilgili önemli bir etiketi (hashtag) yanlışlıkla bir terör örgütüyle ilişkilendirdiği ve video paylaşımını engelleyen bir yazılım hatası oluştuğu belirtildi. Şirket içi belgelere göre, 30 kişilik bir Facebook çalışan grubu, yapay zekânın protesto görüntülerini "taciz veya zorbalık" olarak yanlış sınıflandırdığına dair en az 80 hata bildirimi yaptı.

Şirket yetkilileri, hataların kısa sürede giderildiğini ve hesapların büyük ölçüde geri yüklendiğini savunsa da, 7amleh gibi sivil toplum kuruluşları birçok içeriğin engelli kalmaya devam ettiğini iddia etti. Facebook sözcüsü Dani Lever, politikaların herkese ses hakkı tanımak üzere tasarlandığını ve eşit uygulandığını belirtirken; Twitter sözcüsü Katie Rosborough, uygulanan yaptırımların şirket politikalarının hedeflediğinden daha ağır olduğunu kabul etti. İfade özgürlüğü uzmanları, bu algoritmik hataların marjinal grupları yanlışlıkla cezalandıran daha geniş bir sorunun parçası olduğunu ve benzer durumların geçmişte ABD’deki siyah aktivistlerin paylaşımlarında da yaşandığını belirtmektedir.

Olayın ardından Facebook’un durumu en üst seviye acil durum (severity 1) olarak sınıflandırdığı ve Filistinli aktivistlerin platformu uygulama mağazalarında düşük puanlarla protesto ettiği bildirildi. EFF Direktörü Jillian York gibi uzmanlar, içerik denetiminin bu ölçekte (insan veya algoritma fark etmeksizin) sağlıklı çalışamayacağını ve mevcut eşitsizliklerin dijital ortama taşındığını savunmaktadır.