Çin, Rusya ve İran bağlantılı aktörlerin seçim süreçlerini manipüle etmek amacıyla üretken yapay zekâ araçlarını kullandığı bildirildi

Microsoft ve ABD’li yetkililer tarafından yayımlanan siber tehdit raporlarında; Çin, Rusya ve İran bağlantılı devlet destekli aktörlerin 2024 ABD başkanlık seçimleri ve Tayvan’daki seçim süreçlerini etkilemek amacıyla üretken yapay zekâ araçlarını operasyonlarına dahil ettiği öne sürüldü. Çin merkezli "Storm-1376" (Spamouflage) grubunun, Tayvan seçimleri sırasında bir başkan adayının başka bir adayı desteklediğine dair sahte ses kayıtları oluşturduğu ve ByteDance araçlarıyla üretilen yapay zekâ haber sunucularını kullanarak dezenformasyon yaymaya çalıştığı bildirildi. Ayrıca bu grupların ABD’deki uyuşturucu kullanımı ve göçmenlik gibi kutuplaştırıcı toplumsal konuları, yapay zekâ üretimi görsellerle destekleyerek sosyal medyada paylaştığı aktarıldı.

Rusya bağlantılı "CopyCop" ağının ChatGPT ve DALL-E 3 gibi ticari araçları kullanarak 160’tan fazla sahte haber sitesi kurduğu ve bu sitelerde yapay zekâ ile yeniden yazılmış dezenformasyon içerikli makaleler yayımladığı belirtildi. "Operation Overload" adlı bir diğer ağın ise yapay zekâ ses klonlama teknolojisiyle FBI Direktörü Chris Wray gibi üst düzey yetkililerin seslerini taklit ederek sahte seçmen hilesi (voter fraud) iddiaları yaydığı ifade edildi. Operasyonların temel amacının seçmen tercihlerini doğrudan değiştirmekten ziyade demokratik süreçlere olan güveni sarsmak ve içerik üretimini hızlandırmak olduğu değerlendirilmektedir.

Raporlarda, söz konusu yapay zekâ destekli içeriklerin bazı durumlarda viral hale gelmesine rağmen, seçmen davranışları üzerinde ölçülebilir veya anlamlı bir etki yaratmadığı vurgulandı. Çin hükümeti ise bu iddiaları reddederek yanlış bilgi yayılmasına karşı olduklarını ve asıl dezenformasyonun ABD merkezli sosyal medya platformlarında kendilerine karşı yürütüldüğünü savundu. Araştırmacılar, yapay zekânın şu aşamada ikna edicilikten ziyade içerik ölçeklendirme amacıyla kullanıldığını, ancak bu teknolojilerin gelişen yöntemlerle gelecekteki seçimler için daha ciddi bir tehdit oluşturabileceğini belirtmektedir.