TikTok algoritmasının ve içerik denetim sistemlerinin yeme bozukluklarını teşvik eden içerikleri engellemede yetersiz kaldığı ve bu içerikleri savunmasız kullanıcılara önerdiği bildirildi

TikTok’un içerik denetim mekanizmalarının, yeme bozukluklarını (anoreksiya ve bulimiya) teşvik eden "pro-ana" ve "pro-mia" içeriklerinin yayılımını durdurmada zorluk yaşadığı öne sürülmektedir. Platformun, belirli etiketleri (hashtag) yasaklamasına rağmen, kullanıcıların kelimeleri kasıtlı olarak yanlış yazarak veya etiket kullanmadan düz metin aramaları yaparak bu kısıtlamaları aşabildiği bildirilmiştir. Birleşik Krallık merkezli yeme bozukluğu yardım kuruluşu Beat, sistemin bu tür kaçınma yöntemlerini tespit edecek şekilde güncellenmesi gerektiğini vurgulamıştır.

Platformun "Sizin İçin" (For You Page) algoritmasının çalışma prensibi nedeniyle, zararlı içeriklerin etkileşim alması durumunda daha geniş kitlelere ulaştırıldığı ve kullanıcılar bu içeriklerle doğrudan etkileşime girmese dahi sistem tarafından önlerine çıkarılabildiği değerlendirilmektedir. Özellikle 16-24 yaş aralığındaki genç kullanıcıların yoğunlukta olduğu platformda, algoritmanın bu tür içerikleri döngüsel bir şekilde sunmasının kullanıcı sağlığı üzerinde risk oluşturabileceği belirtilmektedir.

TikTok, konuyla ilgili olarak yeme bozukluğu teşvik eden altı hesabı kapattığını ve belirli aramaları yardım hatlarına yönlendirdiğini açıklamıştır. Ayrıca, 18 yaş altı kullanıcılara yönelik oruç uygulamaları ve kilo verme hileleri reklamlarının yasaklanacağı bildirilmiştir. Ancak, içeriklerin platformda hâlâ erişilebilir olması, otomatik denetim sistemlerinin ve öneri algoritmalarının bu tür hassas içerikleri bütünüyle filtrelemedeki yeterliliği konusunda soru işaretleri yaratmaktadır. Benzer sorunlarla karşılaşan Pinterest gibi platformların, algoritma eğitimi yoluyla zararlı içerikleri %88 oranında azalttığı hatırlatılarak, TikTok'un mevcut önlemlerinin kapsamı tartışılmaktadır.