Euro 2020 finali sonrası sosyal medya platformlarının içerik denetleme süreçlerinin ırkçı içerikleri ve emojileri tespit etmekte yetersiz kaldığı bildirildi

11 Temmuz 2021 tarihinde oynanan Avrupa Futbol Şampiyonası (Euro 2020) finalinin ardından, İngiltere milli takımının üç siyahi oyuncusu Marcus Rashford, Jadon Sancho ve Bukayo Saka’nın sosyal medyada yoğun ırkçı saldırılara maruz kaldığı bildirildi. Olayda, özellikle Facebook ve Instagram’ın otomatik sistemlerinin, ırkçı hakaret amacıyla kullanılan maymun ve muz emojilerini başlangıçta tespit edemediği ve bu içerikleri hatalı bir şekilde "zararsız" (benign) olarak sınıflandırdığı bildirildi.

Instagram Başkanı Adam Mosseri, konuya ilişkin yaptığı açıklamada, sistemlerin raporları önceliklendirmek için teknoloji kullandığını ancak bazı ırkçı yorumların yanlışlıkla zararsız olarak işaretlendiğini kabul etti. Mosseri, bu hatanın temel nedeninin yapay zekânın emojilerin kullanıldığı "bağlamı" (context) anlayamaması olduğunu belirtti. Ayrıca, platformun ölçeği gereği günde milyonlarca rapor alındığını, %1’lik bir hata payının dahi on binlerce hatalı işleme yol açabildiğini ifade ederek sistemin mükemmel olmadığını vurguladı. Facebook yetkilileri ayrıca, bu tür emoji temelli saldırıların proaktif olarak izlenmediğini, kullanıcı raporlarına dayandığını belirtti.

Twitter ise olayla ilgili olarak makine öğrenmesi tabanlı otomasyon ve insan incelemesinin bir kombinasyonunu kullandığını, 24 saat içinde 1.000’den fazla içeriği kaldırdığını ve bu içeriklerin büyük çoğunluğunun teknoloji aracılığıyla proaktif olarak tespit edildiğini bildirdi. Ancak Birleşik Krallık’taki siyasi figürler ve sivil toplum kuruluşları, platformların moderasyon hızının yetersiz kaldığını ve nefret söylemiyle mücadele yükünün büyük ölçüde manuel raporlama yapan kullanıcılara bırakıldığını savundu.

Facebook, olayın ardından teknolojik iyileştirmeler yapıldığını ve sistemlerin güncellendiğini açıkladı. Şirket, kimlik doğrulama zorunluluğu gibi önerilere ise Birleşik Krallık'ta 11 milyon kişinin pasaport veya ehliyeti olmadığı verisine dayanarak, dezavantajlı grupların dışlanabileceği gerekçesiyle mesafeli yaklaştığını belirtti. Olay, otomatik denetleme sistemlerinin kültürel bağlamı ve sembolik hakaretleri anlamadaki zorluklarının kriz anlarında yarattığı riskleri tartışmaya açmıştır.