Çin yanlısı dezenformasyon kampanyasında yapay zekâ üretimi sahte haber spikerlerinin kullanıldığı bildirildi

Sosyal medya analiz firması Graphika tarafından yayımlanan "Deepfake It Till You Make It" başlıklı raporda, Çin devletine yakın olduğu değerlendirilen "Spamouflage" adlı bir etki operasyonunda ilk kez yapay zekâ tarafından üretilen kurgusal kişilerin kullanıldığı öne sürüldü. "Wolf News" adlı sahte bir haber kanalı bünyesinde sunum yapan "Jason" ve "Anna" isimli spikerlerin, Londra merkezli Synthesia şirketinin teknolojisiyle oluşturulmuş dijital avatarlar olduğu belirlendi.

Söz konusu videolarda, ABD’deki bireysel silahlanma sorununun eleştirildiği ve küresel ekonomik toparlanma için Çin-ABD iş birliğinin öneminin vurgulandığı aktarıldı. Graphika, bu videoların Facebook, Twitter (X) ve YouTube gibi platformlarda paylaşıldığını ancak izlenme sayılarının 300’ün altında kalarak sınırlı bir etkileşim aldığını bildirdi. Videolarda spikerlerin seslerinin robotik olduğu, dudak senkronizasyonunda hatalar bulunduğu ve altyazılarda dil bilgisi yanlışları yapıldığı gözlemlendi.

Synthesia kurucu ortağı Victor Riparbelli, platformun siyasi içerik üretimini yasaklayan kullanım koşullarının ihlal edildiğini belirterek ilgili hesapların askıya alındığını açıkladı. Riparbelli, nefret söylemi içermeyen "gri alanlardaki" içeriklerin moderasyon sistemleri tarafından tespit edilmesinin zorluğunu kabul ederek, dijital çağ için mevcut yasaların güncellenmesi ve doğru düzenlemelerin kötüye kullanımı engellemeye yardımcı olacağını belirtti. Benzer bir yöntemin Burkina Faso hükümetine destek amacıyla yürütülen başka bir dijital kampanyada da kullanıldığı rapor edildi.

Olay, ticari olarak erişilebilir yapay zekâ araçlarının devlet destekli dezenformasyon faaliyetlerinde ölçeklenebilir içerik üretmek amacıyla kullanılmasının ilk somut örneklerinden biri olarak değerlendirilmektedir. Bununla birlikte, mevcut vakada kullanılan videoların düşük teknik kalitesi nedeniyle kamuoyu üzerinde geniş çaplı bir ikna edici etki yaratamadığı gözlemlenmiştir.