Tumblr’ın yetişkinlere yönelik içerik yasağı kapsamında kullandığı otomatik denetim sistemlerinin masum içerikleri hatalı şekilde işaretlediği bildirildi

Tumblr’ın platform genelinde yetişkinlere yönelik içerikleri yasaklama kararı almasının ardından, bu süreci yönetmek için devreye alınan otomatik tespit algoritmalarının hatalı kararlar verdiği öne sürüldü. Şirketin daha önce "Güvenli Mod" özelliği için kullandığı ve tam kapsamlı yasakla birlikte ana denetim mekanizması haline getirdiği sistemlerin, cinsel içerik barındırmayan pek çok görseli "müstehcen" olarak sınıflandırdığı aktarıldı.

Kullanıcılar ve içerik üreticileri tarafından paylaşılan örneklerde; vazo fotoğrafları, çorap görselleri ve çeşitli sanatsal illüstrasyonların sistem tarafından hatalı şekilde işaretlendiği bildirildi. Buna karşın, bazı kullanıcılar gerçek müstehcen içeriklerin sistemin radarına takılmadan yayında kalabildiğini iddia ederek algoritmaların tutarsızlığına dikkat çekti. Bu durumun, özellikle platformdaki sanatçılar ve içerik üreticileri üzerinde haksız bir idari yük oluşturduğu ve içeriklerin görünürlüğünü olumsuz etkilediği değerlendirilmektedir.

Tumblr CEO’su Jeff D’Onofrio, konuya ilişkin yaptığı açıklamada, içeriklerin ölçeklenebilir şekilde denetlenmesi için otomatik araçlara güvendiklerini ancak bu süreçte hataların yaşanabileceğini öngördüklerini belirtti. Şirket yönetimi, bilgisayarların bağlamsal ve nüanslı kararlar vermede insanlar kadar başarılı olmadığını kabul ederek, hatalı işaretlemeler için bir itiraz süreci sunduklarını ve sistemin iyileştirilmesi için çalışmaya devam ettiklerini bildirdi.