Facebook’un içerik denetleme algoritmasının soğan görselini "müstehcen" içerik olarak sınıflandırarak reklamı engellediği bildirildi

Kanada’nın Newfoundland eyaletinde faaliyet gösteren "The Seed Company by E.W. Gaze" adlı tohum şirketinin, "Walla Walla" cinsi soğan tohumları için hazırladığı bir reklamın Facebook’un otomatik denetleme sistemleri tarafından engellendiği bildirildi. Ekim 2020’de gerçekleşen olayda sistemin, bir sepet içindeki soğanları gösteren görseli "aşırı cinselleştirilmiş" ve "müstehcen" olarak sınıflandırdığı aktarıldı.

Şirkete gönderilen bildirimde, reklamın "ürünlerin veya hizmetlerin cinsel açıdan kışkırtıcı bir şekilde konumlandırılmaması" kuralını ihlal ettiği belirtildi. Şirket yöneticisi Jackson McLean, sistemin soğanların yuvarlak hatlarını insan vücuduna ait uzuvlarla karıştırmış olabileceğini, ancak bu tür bir çıkarım için "oldukça aktif bir hayal gücü" gerektiğini ifade etti. Şirketin itirazı üzerine yapılan incelemede, engelleme kararının hatalı olduğu tespit edildi.

Facebook Kanada İletişim Direktörü Meg Sinclair, platformdaki çıplaklık içeren içerikleri ayıklamak için otomatik teknolojiler kullandıklarını ancak sistemin bazen soğan gibi nesneleri hatalı sınıflandırabildiğini belirterek özür diledi. Söz konusu reklamın inceleme sonrası tekrar yayına alındığı bildirildi.

Olay, yapay zekâ temelli içerik moderasyon sistemlerinin görsel verileri anlamlandırmada yaşadığı teknik yetersizlikleri ve "yanlış pozitif" (false positive) sonuçların ticari faaliyetler üzerindeki etkisini göstermesi açısından kaydedilmiştir. Facebook verilerine göre, 2020 yılının ikinci çeyreğinde 35,7 milyon içeriğin benzer otomatik sistemler tarafından çıplaklık ve cinsel aktivite politikaları gereği kaldırıldığı belirtilmektedir.