TikTok’ta yabancı ağlar tarafından yapay zekâ destekli siyasi dezenformasyon içerikleri yayımlandığı öne sürüldü

The Wall Street Journal (WSJ) tarafından yapılan bir inceleme; Çin, Nijerya, İran ve Vietnam merkezli olduğu değerlendirilen ağların, TikTok üzerinden ABD siyasetine yönelik yapay zekâ destekli içerikler yaydığını ortaya koydu. Analiz kapsamında, siyasi iddialar içeren binlerce videoyu paylaşan 91 farklı hesap tespit edildi. Bu hesapların, yapay zekâ araçlarını kullanarak düşük maliyetle seslendirme yaptığı, senaryo yazdığı ve görüntüleri birleştirerek içerikler ürettiği bildirildi.

İncelemede, söz konusu ağların TikTok’un etkileşim odaklı algoritmasını kullanarak geniş kitlelere ulaştığı; paylaşılan videoların 2,5 milyondan fazla beğeni ve 300 binden fazla yorum aldığı saptandı. Özellikle yapay zekâ tarafından üretilen ve "Old Donnie" gibi alışılmadık ifadeler kullanan seslerin, bu hesap ağlarının birbirleriyle bağlantısını ortaya çıkaran bir örüntü olduğu belirtildi. WSJ’nin oluşturduğu bot hesapların, özellikle siyasi içeriklere veya ana akım haberlere yönlendirildiklerinde kısa süre içinde bu tür manipülatif içeriklerle karşılaştığı aktarıldı.

Olayın arkasındaki motivasyonun tam olarak belirlenemediği; siber güvenlik uzmanlarının bu tür faaliyetlerin temel amacının toplumsal güveni sarsmak olabileceğini değerlendirdiği ifade edildi. TikTok tarafından yapılan iç incelemede, hesapların bir kısmının Vietnam merkezli olduğu ve platformun "İçerik Üreticisi Ödülleri" programından finansal kazanç elde etmeyi amaçladığı doğrulandı. Ancak bu ağların devlet destekli birer etki operasyonu olup olmadığına dair kesin bir kanıt bulunmadığı, operasyonların özel şirketlere devredilmiş olabileceği ihtimali üzerinde durulduğu kaydedildi.

TikTok, bildirilen hesapların yaklaşık yarısını WSJ iletişime geçmeden önce kapattığını, geri kalanlar için de işlem yapıldığını açıkladı. Şirket sözcüsü, aldatıcı davranışlarla mücadele etmek için politikalarını sürekli güncellediklerini belirtti. Bununla birlikte, kötü niyetli aktörlerin platformun savunma mekanizmalarını aşmak için sürekli taktik değiştirdiği ve benzer içeriklerin yeni hesaplar üzerinden yayılmaya devam ettiği bildirildi.