Facebook içerik denetleme sisteminin bahçecilik terimlerini ve haşereyle mücadele ifadelerini hatalı şekilde "taciz" ve "şiddet" olarak sınıflandırdığı bildirildi

Batı New York merkezli "WNY Gardeners" adlı Facebook grubunun moderatörleri, platformun otomatik denetleme sistemlerinin bahçecilikle ilgili yaygın terimleri hatalı şekilde bayrakladığını bildirdi. Özellikle "hoe" (çapa) kelimesinin geçtiği paylaşımların, sistem tarafından "taciz ve zorbalık" standartlarını ihlal ettiği gerekçesiyle uyarı aldığı ifade edildi. Yapay zekâ sisteminin, bahçecilik bağlamındaki bu terimi benzer yazımlı bir hakaret ifadesiyle karıştırdığı ve bağlamı ayırt edemediği değerlendirilmektedir.

Benzer bir durumun haşerelerle mücadele konusundaki paylaşımlarda da yaşandığı aktarıldı. Japon kın kanatlılarına (Japanese beetles) yönelik "Hepsini öldürün" veya "Onları sabunlu suda boğun" gibi ifadelerin, sistem tarafından "şiddet, kışkırtma veya nefret söylemi" olarak sınıflandırıldığı ve ilgili gönderilerde yorum yapma özelliğinin otomatik olarak devre dışı bırakıldığı belirtildi. Grup yöneticileri, yapay zekânın dilin nüanslarını ve bağlamı kavrayamaması nedeniyle topluluğun tamamen kapatılma riskiyle karşı karşıya kaldığını öne sürdü.

Olayın basına yansımasının ardından bir Facebook temsilcisi, hatalı yaptırımların düzeltildiğini ve grubun silinme aşamasına gelmeden önce bir insan denetçinin kontrolünden geçmesini sağlayacak ek bir güvenlik adımı eklendiğini açıkladı. Şirket, müşteri desteğini iyileştirme ve politikaların uygulanmasına dair daha fazla şeffaflık sağlama planları olduğunu belirtti. Benzer hataların daha önce Birleşik Krallık'taki "Plymouth Hoe" bölgesi için de yaşandığı ve şirketin bu olay için de özür dilediği hatırlatıldı.