TikTok algoritmasının reşit olmayan kullanıcılara yeme bozukluğu ve kendine zarar verme içeriklerini önerdiği iddia edildi

Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yürütülen bir araştırma, TikTok’un öneri algoritmasının reşit olmayan kullanıcılara yeme bozukluğu ve kendine zarar vermeyi romantize eden içerikleri sunduğunu öne sürdü. Araştırmada ABD, Birleşik Krallık, Kanada ve Avustralya’da 13 yaşında kullanıcı profilleri oluşturuldu; "standart" hesaplara 8 dakika içinde yeme bozukluğu içeriklerinin, kullanıcı adında zayıflama terimleri geçen "savunmasız" hesaplara ise çok daha kısa sürede zararlı içeriklerin önerildiği bildirildi. CCDH, savunmasız hesapların standart hesaplara kıyasla 12 kat daha fazla kendine zarar verme tavsiyesi aldığını raporladı.

Platformun algoritmasının, kullanıcıların ilgi gösterdiği içerikleri pekiştirerek bir "yankı odası" oluşturabildiği değerlendirilmektedir. Kullanıcıların yeme bozukluğu iyileşme sürecine dair videoları izlemesinin bile sistem tarafından diyet içeriklerine yönelik bir ilgi olarak yorumlanabildiği; bu durumun kullanıcıları zararlı içerik döngüsüne sokabildiği belirtildi. Ayrıca, kullanıcıların içerik filtrelerini aşmak için kelimeleri kasıtlı olarak yanlış yazarak (örneğin "thinsp0", "suic1de") denetim mekanizmalarını baypas edebildiği aktarıldı.

Klinik psikolog Dr. Gemma Sharp ve diyetisyen Ashley Lytwyn gibi uzmanlar, iyileşme videolarının bile "vücut kontrolü" unsurları içermesi nedeniyle tetikleyici olabileceğini ve hastalar arasında rekabeti körükleyebileceğini ifade etti. TikTok sözcüsü ise CCDH araştırmasının gerçek kullanıcı deneyimlerini yansıtmadığını, pozitif niyetli içerikleri ayırt etmediğini savunarak; şirketin sağlık uzmanlarıyla çalıştığını ve ihlal içeren içerikleri kaldırdığını bildirdi. Öte yandan, Avustralya merkezli Butterfly Foundation, ByteDance’in merkezinin Çin’de olması ve yerel ofis eksikliğinin iletişim süreçlerini zorlaştırdığını belirtti.