OpenAI, Rusya, Çin, İran ve İsrail kaynaklı gizli etki operasyonlarında yapay zekâ araçlarının kullanıldığını bildirdi

OpenAI tarafından Mayıs 2024’te yayımlanan bir raporda; Rusya, Çin, İran ve İsrail merkezli devlet aktörleri ile özel şirketlerin, dünya genelinde kamuoyunu manipüle etmek ve jeopolitik çatışmaları etkilemek amacıyla üretken yapay zekâ teknolojilerini kullandığı beş gizli operasyonun tespit edilerek durdurulduğu açıklandı. Söz konusu operasyonların; sosyal medya paylaşımları oluşturma, makaleleri farklı dillere çevirme, dikkat çekici başlıklar yazma ve otomatik paylaşım yapan yazılımlardaki hataları giderme gibi amaçlarla yapay zekâdan faydalandığı belirtildi.

Raporda, Rusya merkezli "Doppelganger" ve Çin bağlantılı "Spamouflage" gibi uzun süredir takip edilen ağların yanı sıra, İran ve İsrail kaynaklı yeni faaliyetler detaylandırıldı. Rus operasyonlarının Ukrayna karşıtı içerikleri Avrupa dillerinde yaymak için sistemi kullandığı; İran bağlantılı grupların (IUVM) ise ABD ve İsrail karşıtı uzun makaleler ürettiği aktarıldı. Ayrıca İsrail merkezli bir siyasi danışmanlık şirketinin (STOIC) yürüttüğü ve "Zero Zeno" olarak adlandırılan operasyonun, sahte sosyal medya profilleri ve biyografileri oluşturarak İslam karşıtı mesajlar yaymak için OpenAI araçlarını kullandığı ifade edildi.

OpenAI ve bağımsız araştırma kuruluşu Graphika’nın değerlendirmelerine göre, bu kampanyaların geniş kitlelere ulaşma ve organik etkileşim alma konusunda büyük ölçüde başarısız olduğu bildirilmiştir. Operasyonların düşük etkili kalmasında, yapay zekâ modellerinin güvenlik filtrelerinin bazı zararlı talepleri reddetmesinin yanı sıra, operatörlerin sistemden aldıkları "Bir yapay zekâ dili modeli olarak..." şeklindeki ret mesajlarını fark etmeden sosyal medyada paylaşmaları gibi teknik ve insani hataların rol oynadığı değerlendirilmektedir.

Öte yandan, OpenAI ve Microsoft tarafından tespit edilen bulgular, İran kaynaklı operasyonların ABD başkanlık seçimlerini hedef alan sahte haber siteleri (Savannah Time, NioThinker vb.) aracılığıyla dezenformasyon faaliyetlerini yoğunlaştırdığını göstermektedir. ABD istihbarat yetkilileri de İran'ın bu tür operasyonlarla toplumsal bölünmeyi tetiklemeye çalıştığı konusunda uyarılarda bulunmuştur. İran'ın Birleşmiş Milletler temsilciliği ise bu iddiaları asılsız olarak nitelendirmiş; seçimlere müdahale etme niyetlerinin bulunmadığını savunmuştur. OpenAI, bu tür kötüye kullanımları engellemek için model güvenliği ve tespit araçlarına yönelik yatırımlarını sürdürdüğünü açıklamıştır.