Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Facebook’un Auschwitz kurbanlarına ait tarihi fotoğrafları "zorbalık" ve "çıplaklık" olarak hatalı etiketlediği bildirildi
Facebook içerik denetim sistemlerinin, Auschwitz kurbanlarına ait tarihi fotoğrafları "zorbalık" ve "çıplaklık" olarak hatalı şekilde etiketlediği ve bazı görselleri sildiği; Meta'nın ise durumu bir sistem hatası olarak nitelendirerek özür dilediği bildirildi.
Olay
Facebook’un, Auschwitz-Birkenau Devlet Müzesi tarafından Holokost kurbanlarını anmak amacıyla paylaşılan 21 gönderiyi "topluluk standartlarını ihlal ettiği" gerekçesiyle hatalı şekilde etiketlediği bildirildi. Müze yetkilileri, kurbanların biyografik bilgilerini ve fotoğraflarını içeren bu paylaşımların sistem tarafından "zorbalık ve taciz", "yetişkin çıplaklığı" ve "cinsel içerikli teklif" gibi kategorilerde değerlendirildiğine dair bildirimler aldıklarını açıkladı.
Müze tarafından yapılan açıklamada, yıllardır benzer içeriklerin sorunsuz paylaşıldığı ancak Nisan 2024’te çok sayıda gönderinin eş zamanlı olarak hedef alındığı belirtildi. Özellikle Izieu’daki bir yetimhanede kalan Yahudi çocukların anısına paylaşılan bir fotoğrafın sistem tarafından tamamen silindiği aktarıldı. Müze yönetimi, bu durumu "kurbanların anısına yönelik kabul edilemez bir hakaret" olarak nitelendirerek Meta’dan şeffaf bir açıklama talep etti.
Meta sözcüsü olayla ilgili özür dileyerek, söz konusu etiketlemelerin bir hata sonucu gerçekleştiğini kabul etti. Şirket, içeriklerin aslında akışta alt sıralara indirilmediğini (demoted), yalnızca bu yöndeki uyarı bildirimlerinin müze hesabına yanlışlıkla gönderildiğini iddia etti. Ancak silinen yetim çocuk fotoğrafının bir hata sonucu kaldırıldığı doğrulanarak ilgili görselin daha sonra geri yüklendiği bildirildi.
Campaign Against Anti-Semitism (Antisemitizmle Mücadele Kampanyası) temsilcileri, Meta’nın algoritmalarının gerçek Holokost tarihine neden "şüpheyle" yaklaştığına dair bir açıklama yapması gerektiğini vurguladı.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?