Çin yanlısı "Spamouflage Dragon" ağının dezenformasyon faaliyetlerinde yapay zekâ üretimi profil fotoğrafları ve seslendirmeler kullandığı bildirildi

Araştırma kuruluşu Graphika tarafından yayımlanan raporlarda, "Spamouflage Dragon" olarak adlandırılan Çin yanlısı bir propaganda ağının, ABD iç siyasetine ve dış politikasına yönelik dezenformasyon faaliyetlerinde yapay zekâ teknolojilerinden yararlandığı öne sürüldü. 2019 yazında başlayan ağın faaliyetlerinin, Haziran 2020’den itibaren ABD yönetimini, COVID-19 politikasını ve TikTok yasaklarını eleştiren İngilizce içeriklerle genişlediği tespit edildi.

Graphika’nın incelemesine göre, ağın kullandığı sahte hesapların bir kısmında "Çekişmeli Üretici Ağlar" (GAN) yöntemiyle üretilmiş sentetik insan yüzleri kullanıldığı belirlendi. Bu profil fotoğraflarının, ilk bakışta gerçekçi görünse de göz bebeklerinin tüm fotoğraflarda aynı hizada olması, bulanık arka planlar ve küpe gibi ayrıntılardaki görsel hatalar nedeniyle yapay zekâ üretimi olduğu değerlendirildi. Bu yöntemin, tersine görsel arama yoluyla hesapların sahteliğinin tespit edilmesini zorlaştırmak amacıyla seçildiği üzerinde durulmaktadır.

Kampanya kapsamında paylaşılan videolarda ise otomatik seslendirme teknolojilerinin kullanıldığı bildirildi. Ancak raporlarda, bu içeriklerin dil bilgisi hataları içerdiği ve seslendirmelerin "beceriksizce" yapıldığı ifade edildi. Örneğin, seslendirme sisteminin "U.S." (ABD) kısaltmasını "us" (biz) olarak telaffuz ettiği ve altyazılarda doğal olmayan ifadelerin yer aldığı aktarıldı. Bu teknik yetersizlikler nedeniyle, söz konusu içeriklerin gerçek sosyal medya kullanıcılarından anlamlı bir etkileşim almadığı ve operasyonun etkisinin sınırlı kaldığı belirtildi.

Olayla ilgili olarak sosyal medya platformlarının ilgili hesapları ve videoları yayından kaldırdığı bildirildi. Operasyonun arkasında doğrudan Çin hükümetinin olup olmadığına dair kesin bir kanıt sunulmamakla birlikte, ABD istihbarat yetkililerinin yabancı aktörlerin seçimler öncesinde kamuoyunu etkileme girişimlerine yönelik genel uyarıları hatırlatıldı. Graphika, bu tür yapay zekâ araçlarının erişilebilirliğinin artmasıyla, dezenformasyon kampanyalarında sentetik içerik kullanımının daha yaygın hale gelebileceği uyarısında bulundu.