TikTok algoritmasının ve üretken yapay zekâ araçlarının neo-Nazi propagandasını yaygınlaştırmak için kullanıldığı iddia edildi

Stratejik Diyalog Enstitüsü (ISD) tarafından yayımlanan bir rapor, TikTok üzerinde yaklaşık 200 hesaptan oluşan organize bir neo-Nazi ağının varlığını ortaya koydu. Raporda, bu hesapların Holokost inkârı, Adolf Hitler’in yüceltilmesi ve beyaz üstünlükçü kitle saldırganlarına destek gibi içeriklerle on milyonlarca izlenmeye ulaştığı öne sürüldü. Söz konusu ağın, propaganda içeriklerini modernize etmek ve platformun denetim mekanizmalarını aşmak amacıyla üretken yapay zekâ teknolojilerinden yararlandığı bildirildi.

İncelemede, özellikle Adolf Hitler’e ait konuşmaların yapay zekâ ile farklı dillere çevrilmiş versiyonlarının ve azınlık grupları hedef alan yapay zekâ üretimi görsellerin platformda viral hale geldiği aktarıldı. Bu tür sentetik içeriklerin, nefret söylemini yeni nesil kullanıcılara ulaştırmak ve ideolojik mesajları "güncellemek" için bir araç olarak kullanıldığı değerlendirildi. Ayrıca, aşırı sağcı grupların Telegram gibi diğer platformlar üzerinden koordine olarak TikTok’taki bu içerikleri etkileşimle öne çıkardığı belirtildi.

Raporda ayrıca TikTok’un öneri algoritmasının bu içerikleri aktif olarak yaygınlaştırdığı iddia edildi. ISD araştırmacıları tarafından oluşturulan test hesaplarının, sadece birkaç videoyu izledikten sonra "Sizin İçin" akışında Nazi propagandasıyla karşılaştığı ifade edildi. ISD'nin nefret söylemi ve şiddet güzellemesi gerekçesiyle raporladığı 50 hesabın, platform tarafından yapılan inceleme sonucunda "ihlal bulunamadı" yanıtıyla yayında tutulduğu ve bu hesapların toplamda 6,2 milyondan fazla izlenme aldığı kaydedildi.

Olayda yapay zekânın rolü, hem içerik üretiminde (sentetik medya) hem de içeriğin hedef kitleye ulaştırılmasında (algoritmik kürasyon) temel bir risk unsuru olarak tanımlanmıştır. TikTok’un moderasyon sistemlerinin, yapay zekâ destekli ve organize bir şekilde sunulan bu tür içerikleri tespit etmede ve kaldırmada yetersiz kaldığı savunulmaktadır.