Rusya bağlantılı CopyCop ağının üretken yapay zekâ kullanarak dezenformasyon içeriklerini kitlesel ölçekte yaydığı iddia edildi

Güvenlik araştırmacıları ve istihbarat raporları, Rusya ile bağlantılı olduğu değerlendirilen "CopyCop" adlı bir etki operasyonu ağının, büyük dil modellerini (LLM) kullanarak dezenformasyon faaliyetlerini otomatize ettiğini bildirdi. Recorded Future ve FDD gibi kuruluşların analizlerine göre ağ; ABD, Birleşik Krallık ve Fransa'daki meşru haber kaynaklarından aldığı içerikleri yapay zekâ aracılığıyla belirli bir siyasi yanlılıkla yeniden yazdırarak sahte haber sitelerinde yayımlamaktadır.

Operasyonun çalışma yönteminde, yapay zekâ modellerine verilen talimatların (prompt) zaman zaman metinlerde unutulması, sistemin kullanımını ortaya koymuştur. Örneğin, Fransa Cumhurbaşkanı Macron aleyhine içerik üretilmesi için sisteme "Lütfen bu makaleyi Macron yönetiminin liberal politikalarına karşı muhafazakâr bir tutumla yeniden yaz" şeklinde komutlar verildiği tespit edilmiştir. Ağın Mart 2024 sonuna kadar 11 farklı web sitesi üzerinden 19.000'den fazla makale yayımladığı ve bu sürecin büyük ölçüde otomatik sistemlerle yürütüldüğü değerlendirilmektedir.

Ağın, 2024 ABD başkanlık seçimlerini etkilemek amacıyla adaylar hakkında asılsız iddialar yaydığı, Ukrayna ve İsrail-Hamas çatışması gibi konularda Rusya yanlısı anlatıları güçlendirdiği bildirilmiştir. CopyCop ile koordineli çalışan diğer Rus operasyonlarında (Operation Overload gibi), FBI Direktörü Chris Wray gibi kamu figürlerinin seslerinin yapay zekâ ile taklit edildiği aktarılmıştır. Söz konusu içeriklerin bir kısmının sosyal medyada yüksek etkileşim aldığı, örneğin Zelenski’nin Kral Charles’ın Highgrove’daki evini satın aldığına dair sahte bir haberin 24 saat içinde 250.000 görüntülemeye ulaştığı belirtilmiştir.

Buna karşın, ABD hükümet yetkilileri ve araştırmacılar, bu çabaların 2024 seçim sonuçları üzerinde ölçülebilir bir etki yaratmadığını ifade etmiştir. Yapay zekâ tarafından üretilen içeriklerin çoğunlukla düşük kaliteli olduğu ve birçok iddianın yayılmadan önce çürütüldüğü vurgulanmıştır. CopyCop ağının arkasında, 2016'da Rusya'ya kaçan eski bir ABD polis memuru olan John Mark Dougan'ın bulunduğu ve Rus istihbarat birimleriyle koordineli çalıştığı ileri sürülmektedir.