Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Facebook’un ABD Bağımsızlık Bildirgesi alıntılarını "nefret söylemi" olarak işaretleyerek yayından kaldırdığı bildirildi
Facebook’un içerik denetleme algoritmasının, ABD Bağımsızlık Bildirgesi’ndeki tarihsel bir ifadeyi yanlış sınıflandırarak "nefret söylemi" gerekçesiyle yayından kaldırdığı, tepkiler üzerine şirketin hatayı kabul ederek içeriği geri yüklediği bildirildi.
Olay
Texas merkezli yerel bir gazete olan The Vindicator’ın, 4 Temmuz ABD Bağımsızlık Günü öncesinde Facebook sayfasında paylaştığı Bağımsızlık Bildirgesi alıntılarının, platformun otomatik denetim sistemleri tarafından "nefret söylemi" olarak sınıflandırıldığı bildirildi. Gazetenin bildirgeyi bölümler hâlinde yayımladığı, ancak paylaşımlardan birinin platformun topluluk standartlarını ihlal ettiği gerekçesiyle sistem tarafından otomatik olarak kaldırıldığı aktarıldı.
Söz konusu engellemenin, bildirgenin orijinal metninde yer alan ve yerli halklara atıfta bulunan "insafsız Kızılderili Vahşiler" (merciless Indian Savages) ifadesinden kaynaklandığı değerlendirilmektedir. Facebook’un otomatik algoritmalarının, bu ifadeyi tarihsel bağlamından kopuk bir şekilde algılayarak nefret söylemi filtresini tetiklediği öne sürüldü. Gazete editörlerinin durumu fark ederek yayımladıkları haberin ardından platformun içeriği geri yüklediği belirtildi.
Facebook tarafından yapılan açıklamada, paylaşımın bir hata sonucu kaldırıldığı kabul edilerek gazete yönetiminden özür dileyen bir ifade kullanıldı. Şirket sözcüsü, platformda her hafta milyonlarca içeriğin incelendiğini ve bu hacimdeki işlemlerde zaman zaman hatalar yaşanabildiğini belirtti. Olay, sosyal medya devinin meşru ifade özgürlüğünü kısıtlamadan nefret söylemini nasıl kaldıracağı konusundaki çalışmalarının ve bu süreçteki zorlukların bir örneği olarak kaydedildi.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?