IŞİD ve El-Kaide bağlantılı grupların propaganda faaliyetlerinde üretken yapay zekâ teknolojilerinden yararlandığı bildirildi

SITE Intelligence Group ve Washington Post tarafından aktarılan bilgilere göre, IŞİD destekçileri "News Harvest" (Hasat Haberleri) adlı bir program aracılığıyla yapay zekâ tarafından üretilen haber bültenleri yayımlamaya başlamıştır. İlk olarak Mart 2024’teki Moskova saldırısının ardından dolaşıma giren bu videolarda, askeri üniforma veya geleneksel kıyafetler giyen yapay zekâ avatarlarının örgüt bildirilerini okuduğu gözlemlenmiştir. SITE Intelligence Group kurucularından Rita Katz, bu teknolojinin terör örgütleri için düşük maliyetli ve hızlı içerik üretimi sağlayan bir "oyun değiştirici" olduğunu ifade etmiştir. Uzmanlar, bu videoların resmi IŞİD organları tarafından değil, örgüte bağlı destekçi gruplar tarafından üretildiğine dikkat çekmektedir.

Raporda ayrıca, El-Kaide bağlantılı grupların ChatGPT gibi büyük dil modellerinin kullanımına yönelik 50 sayfalık Arapça rehberler hazırladığı ve Arap Yarımadası El-Kaidesi (AQAP) ile ilişkilendirilen "Inspire" adlı yayının, yapay zekâ destekli olduğu değerlendirilen seslendirmelerle bir video serisine dönüştürüldüğü belirtilmiştir. Öte yandan, yapay zekâ ile insan sureti oluşturulmasının dini açıdan uygunluğu konusunda sempatizanlar arasında iç tartışmalar yaşandığı; bu çekinceler nedeniyle bazı videolarda avatarların yüzlerinin bulanıklaştırıldığı bildirilmiştir.

Güvenlik uzmanları, yapay zekâ tarafından üretilen bu içeriklerin kurumsal bir haber formatında sunulmasının, teknoloji şirketlerinin içerik denetim sistemlerini yanıltabileceğine dikkat çekmektedir. Telegram, X ve Rocket.Chat gibi platformların bu tür materyallerin yayılımını engellemede zorluk yaşadığı ifade edilmektedir.