YouTube Kids uygulamasının algoritmik denetim süreçlerinde çocuklara yönelik uygunsuz içeriklerin sızdığı bildirildi

Google bünyesindeki YouTube Kids uygulamasında, çocuklara yönelik popüler çizgi film karakterlerini içeren ancak şiddet, silah kullanımı ve rahatsız edici temalar barındıran videoların yer aldığı bildirildi. Medya kuruluşları ve çocuk hakları savunucuları tarafından yapılan incelemelerde; Peppa Pig, Mickey Mouse ve Paw Patrol gibi karakterlerin kullanıldığı sahte videolarda, karakterlerin dişlerinin zorla çekildiği, birbirlerine silahla ateş ettiği veya yanan bir uçakta mahsur kaldığı gibi sahnelerin yer aldığı tespit edildi.

Söz konusu içeriklerin, YouTube’un çocuk dostu içerikleri ayırt etmek için kullandığı algoritmik filtreleri aşarak uygulamaya sızdığı belirtildi. James Bridle gibi araştırmacılar ve Campaign for a Commercial-Free Childhood gibi kuruluşlar, içerik üreticilerinin popüler anahtar kelimeleri ve benzer küçük resimleri (thumbnail) kullanarak sistemleri yanılttığını ifade etti. Bu durumun, "otomatik oynatma" ve "önerilen videolar" özellikleri aracılığıyla rahatsız edici içeriklerin çocukların karşısına çıkmasına neden olduğu değerlendirildi.

YouTube yönetimi, yaşanan olaylar üzerine özür dileyerek platform güvenliğini artırmak için önlemler aldığını duyurdu. Şirket, içerik denetimi için görevlendirilen insan moderatör sayısını 10.000’in üzerine çıkaracağını, uygunsuz bulunan kanalların reklam gelirlerini keseceğini ve yetişkin temalı videolara yaş kısıtlaması getireceğini açıkladı. YouTube temsilcileri, uygulamadaki hatalı içerik oranının %0,005 gibi oldukça düşük bir seviyede olduğunu belirtse de, platformun açık yapısı nedeniyle %100 güvenliğin garanti edilemediğini kabul etti.

Olay, algoritma temelli denetim sistemlerinin karmaşık içerikleri tespit etmedeki yeterliliğinin sorgulanmasına yol açtı. Uzmanlar ve savunucu gruplar, sistemin bağlamı değerlendirmede yetersiz kaldığını vurguladı. Ebeveynlerin ve denetleyici kurumların baskısı sonucunda, platformun moderasyon süreçlerini ve ebeveyn kontrol araçlarını yeniden yapılandırma sürecine girdiği bildirildi.