TikTok algoritmasının çocuklara tehlikeli içerikler sunduğu ve ölümlere sebebiyet verdiği iddiasıyla dava açıldığı bildirildi

TikTok'un "Sizin İçin" (For You) akışını yöneten algoritmanın, çocuk yaştaki kullanıcıları "blackout challenge" (bayılma meydan okuması) gibi ölümcül faaliyetlere teşvik eden içeriklere sistematik olarak yönlendirdiği iddia edilmektedir. 2021 yılında hayatını kaybeden sekiz yaşındaki Lalani Erika Renee Walton ve dokuz yaşındaki Arriani Jaileen Arroyo’nun aileleri, platformun tehlikeli içerikleri kasten ve mükerrer şekilde çocukların akışına düşürdüğü gerekçesiyle Los Angeles’ta dava açmıştır. Şikâyet dilekçesinde, polisin Walton'ın ölümünü bu meydan okumayı denemesinin bir sonucu olarak belirlediği aktarılmakta; algoritmanın çocukların yaşını ve içeriklerin riskli doğasını gözetmeksizin etkileşimi artırmak amacıyla bu videoları öne çıkardığı öne sürülmektedir.

Center for Countering Digital Hate (CCDH) tarafından yürütülen bir araştırma, sistemin işleyişine dair benzer bulgular ortaya koymuştur. Araştırma kapsamında oluşturulan 13 yaşındaki kullanıcı profillerine, sisteme giriş yaptıktan dakikalar sonra öz kıyım, yeme bozuklukları ve kendine zarar verme ile ilgili içeriklerin önerildiği saptanmıştır. Özellikle "savunmasız" olarak tanımlanan ve kullanıcı adında zayıflama ile ilgili terimler barındıran hesaplara, standart hesaplara oranla çok daha kısa sürede ve daha yoğun şekilde zararlı içerik sunulduğu bildirilmiştir.

TikTok yönetimi, söz konusu iddialara yanıt olarak "blackout challenge"ın platformdan çok daha önce var olduğunu ve hiçbir zaman bir "TikTok trendi" haline gelmediğini savunmuştur. Şirket, kullanıcı güvenliğine bağlı olduklarını ve ihlal içeren içerikleri derhal kaldırdıklarını belirtmektedir. Ayrıca CCDH araştırmasının gerçek kullanıcı deneyimlerini yansıtmadığı ifade edilmiştir.