YouTube’un otomatik denetim algoritmasının bir kadın teknoloji konferansını hatalı şekilde engellediği bildirildi

"Women of Sex Tech" adlı konferansın 2020 yılında gerçekleştirilmesi planlanan ana etkinliğinden bir gece önce yapılan test yayınının, yayına başladıktan yaklaşık dört dakika sonra YouTube’un otomatik denetim sistemleri tarafından topluluk kurallarını ihlal ettiği gerekçesiyle engellendiği bildirildi. Beş yıldır düzenlenen ancak koronavirüs pandemisi nedeniyle çevrim içi ortama taşınan etkinliğin, herhangi bir cinsel içerik veya çıplaklık barındırmamasına rağmen sistem tarafından otomatik olarak yayından kaldırıldığı öne sürüldü.

YouTube tarafından yapılan açıklamada, söz konusu durumun pandemi süreciyle bağlantılı olduğu; insan moderatörlerin çalışma kısıtlamaları nedeniyle platformun otomatik algoritmalara olan bağımlılığının arttığı belirtildi. Şirket sözcüsü, bu süreçte politika ihlali yapmayan bazı videoların yanlışlıkla kaldırılabileceğini kabul ederken, bu yöntemin ekosistemi korumak adına hızlı hareket etme olanağı sağladığını savundu. Şirket, hatalı kararlar için içerik üreticilerine itiraz yolunun açık olduğunu hatırlattı.

Konferans başkanı Alison Falk, engelleme sırasında cinsel içerikten bahsedilmediğini ve olayın bir sistem hatası olduğunu düşündüğünü ifade etti. Falk ayrıca, bu tür durumların seks eğitimi ve teknoloji topluluklarında sıkça yaşandığını; benzer içeriklerin "gölge yasaklama" (shadowban) veya gelir kesintisi gibi yaptırımlara maruz kaldığını belirtti. Etkinliğin, yaşanan aksaklık nedeniyle ek maliyetle başka bir platforma taşınarak tamamlanabildiği aktarıldı.

Olay, yapay zekâ tabanlı denetim sistemlerinin bağlamı anlamadaki yetersizliğinin, eğitim ve teknoloji odaklı meşru içeriklerin sansürlenmesine yol açabileceği tartışmalarını beraberinde getirmiştir. YouTube’un otomatik sistemlerinin hangi değişkenler üzerinden ihlal kararı verdiği kamuya açık kaynaklarda detaylandırılmadığı için hatanın teknik boyutu bütünüyle doğrulanamamıştır.