YouTube öneri algoritmalarının çocuk kullanıcılara kendine zarar verme içerikleri sunduğu bildirildi

Şubat 2019’da yayımlanan raporlarda, YouTube’un içerik öneri algoritmalarının 13 yaşındaki kullanıcılara dahi kendine zarar verme ve intihar temalı grafik görüntüler içeren videolar önerdiği iddia edildi. The Telegraph tarafından yapılan incelemede, platformun kendine zarar vermeyi teşvik eden içerikleri yasaklayan resmi politikasına rağmen, bu tür görüntüleri barındıran videoların sistem tarafından otomatik olarak öne çıkarılmaya devam ettiği öne sürüldü.

Raporlarda, algoritmaların arama çubuğunda "kendine zarar verme rehberi" ve "nasıl kendine zarar verilir" gibi terimleri otomatik tamamlama yoluyla sunduğu da tespit edildi. YouTube yetkilileri, bu tür otomatik tamamlama tahminlerinin politikalarına aykırı olduğunu ve bildirilen içerikleri sildiklerini belirtti. Şirket, platformun "destek amaçlı" içerikler ile "zararlı teşvikler" arasındaki ayrımı yaparken zorluk yaşayabildiğini, ancak yardım hatlarını gösteren mekanizmaların devrede olduğunu savundu.

Birleşik Krallık Sağlık Bakanı Matt Hancock ve NSPCC'den Andy Burrows gibi isimler, platformun "özen yükümlülüğünü" (duty of care) yerine getirmediğini ve algoritmik süreçlerin savunmasız gençleri riskli içeriklere sürüklediğini belirtti. Olay, büyük ölçekli platformlarda yapay zekâ tabanlı moderasyonun bağlamı anlama konusundaki kapasite sınırlarını ve kullanıcı güvenliği üzerindeki etkilerini tartışmaya açmıştır.