TikTok’un içerik denetim sistemlerinin koordineli bir saldırı sonucunda intihar görüntülerinin yayılmasını engelleyemediği bildirildi

Ronnie McNutt isimli bir kişinin Facebook üzerinden gerçekleştirdiği intihar yayınına ait görüntülerin, olaydan yaklaşık bir hafta sonra TikTok platformunda yayıldığı ve platformun otomatik denetim mekanizmalarını aşarak kullanıcılara ulaştığı bildirildi. TikTok Avrupa Kamu Politikaları Direktörü Theo Bertram, Birleşik Krallık parlamento komitesine yaptığı açıklamada, bu durumun "karanlık ağ" (dark web) üzerinden organize edilen koordineli bir saldırıdan kaynaklandığına dair kanıtlar bulunduğunu belirtti.

Bertram’ın aktardığına göre, kötü niyetli gruplar videoyu otomatik sistemler tarafından tespit edilmesini zorlaştıracak şekilde farklı yöntemlerle kurgulayarak, parçalara ayırarak ve yeni hesaplar üzerinden sürekli olarak yeniden yükleyerek platformun güvenlik duvarlarını manipüle etmeye çalıştı. Görüntülerin bazen zararsız görünen videoların içine gizlendiği; o dönemdeki raporlara göre TikTok’un "Sizin İçin" (For You) akışında öne çıkmış olabileceği ve aralarında çocukların da bulunduğu çok sayıda kullanıcı tarafından istemsizce izlendiği belirtildi.

TikTok, ihlal içeren içerikleri otomatik olarak tespit edip işaretleyen sistemlerin devrede olduğunu, ancak bu vakada saldırganların alışılmadık yöntemler kullanarak sistemleri aşmayı hedeflediğini savundu. Şirket, olayla bağlantılı hesapların yasaklandığını ve benzer şiddet içerikli materyallerin yayılmasını önlemek amacıyla diğer teknoloji platformlarıyla ortak bir uyarı sistemi kurulması yönünde iş birliği teklifinde bulunduğunu açıkladı. Olayın ardından ebeveynlerin, çocuklarının görüntüler nedeniyle travma yaşadığına dair şikayetleri basına yansıdı.