YouTube algoritmalarının genç kullanıcılara yeme bozukluğu ve kendine zarar verme içeriklerini sistematik olarak önerdiği iddia edildi

Center for Countering Digital Hate (CCDH) tarafından yayımlanan "YouTube'un Anoreksiya Algoritması" başlıklı rapor, platformun öneri sistemlerinin yeme bozukluklarını teşvik eden içerikleri genç kullanıcılara sunduğunu öne sürdü. Araştırmacılar, 13 yaşında bir kız çocuğu profili oluşturarak "ABC diyeti" ve "güvenli gıdalar" gibi yeme bozukluğuyla ilişkili anahtar kelimelerle yapılan aramalar üzerinden testler gerçekleştirmiştir. Bu testlerde sunulan önerilerin yaklaşık %70'inin vücut algısını bozabilecek nitelikte olduğu, üçte birinin ise doğrudan "zararlı" (yeme bozukluğunu yücelten veya kendine zarar vermeyi içeren) kategorisinde olduğu saptandı.

Eski kullanıcı Anna Mockel ve ismi açıklanmayan 17 yaşındaki bir davacı, algoritmanın bir "huni" etkisi yaratarak kendilerini kademeli olarak daha uç içeriklere yönlendirdiğini ifade etmiştir. Mağdurlar, YouTube'un başlangıçta masum görünen jimnastik veya yemek videolarından zamanla günlük 500 kalori sınırı gibi tehlikeli diyet "taktiklerine" ve yeme bozukluğu olan kişilerin birbiriyle yarıştığı topluluklara yönlendirme yaptığını iddia etmektedir. Bu yönlendirmelerin, kullanıcıların gerçeklik algısını bozarak yeme bozukluklarını normalleştirdiği ve hastaneye yatışla sonuçlanan sağlık krizlerini tetiklediği savunulmaktadır.

YouTube, algoritmaların neden bu tür içerikleri önerdiğine dair spesifik bir açıklama yapmaktan kaçınmış; ancak Nisan 2023'te yeme bozukluğu içeriklerine yönelik politikalarını güncellediklerini ve yaş kısıtlaması getirdiklerini belirtmiştir. Buna karşın CCDH raporu, platformun yasaklı kelime filtrelerinin basit karakter değişiklikleriyle aşılabildiğini ve algoritmanın bu içerikleri sunmaya devam ettiğini savunmaktadır. Ayrıca, Social Media Victims Law Center tarafından YouTube'a karşı, platformun kasıtlı olarak bağımlılık yapıcı şekilde tasarlandığı iddiasıyla çok sayıda dava açılmıştır.