Yapay zekâ destekli deepfake reklamlar ve sahte kimliklerle 20 milyon dolarlık yatırım dolandırıcılığı gerçekleştirildiği bildirildi

İspanya Ulusal Polisi tarafından yürütülen "COINBLACK -- WENDMINE" operasyonu sonucunda, yapay zekâ araçlarını kullanarak geniş kapsamlı bir kripto para dolandırıcılığı yürüten altı kişinin tutuklandığı açıklandı. Şebekenin, tanınmış kamu figürlerinin yatırım tavsiyesi verdiği izlenimini yaratan deepfake videolar ve reklamlar aracılığıyla dünya çapında 208 mağduru yaklaşık 20 milyon dolar dolandırdığı öne sürüldü. Dolandırıcıların, hedef kitleyi seçmek için özel algoritmalar kullandığı ve yapay zekâ ile üretilen içeriklerin mağdurlar nezdinde güvenilirliği ve karlılık algısını önemli ölçüde artırdığı belirtildi.

Dolandırıcılık faaliyetinin çok aşamalı bir yapıda kurgulandığı; başlangıçta "romantik yaklaşımlar" veya "finansal danışmanlık" maskesiyle temas kurulduğu aktarıldı. Mağdurların, gerçek olmayan veriler sunan sahte platformlar üzerinden yüksek kazanç elde ettiklerine inandırıldığı; fonlarını çekmek istediklerinde ise "hesap blokesi" veya "ek vergi" gibi bahanelerle daha fazla ödeme yapmaya zorlandıkları bildirildi. Operasyonun son aşamasında şebeke üyelerinin kendilerini Europol görevlisi veya avukat olarak tanıtarak, kayıp paraları kurtarma vaadiyle mağdurlardan tekrar para tahsil etmeye çalıştıkları kaydedildi.

Benzer bir yöntemin ABD'de "Exante" adlı aracı kurumun internet sitesini ve işlem panelini yapay zekâ araçlarıyla hızla kopyalayan bir grup tarafından uygulandığı rapor edildi. Bu vakada dolandırıcıların, JPMorgan Chase bünyesinde gerçek banka hesapları açmayı başardıkları ve mağdurları bu hesaplara para göndermeye ikna ettikleri; bu hesapların açılış sürecinde yapay zekâ ile üretilmiş sahte kimlik belgelerinin kullanılmış olabileceği değerlendirilmektedir. Exante yetkilileri, dolandırıcıların sistemi kopyalama hızının yapay zekâ kullanımıyla doğrudan ilişkili olduğunu belirtmektedir.

ABD'li düzenleyici kurumlar (CFTC, SEC) ve FBI, üretken yapay zekânın dolandırıcılık faaliyetlerindeki "hız" ve "inandırıcılık" eşiğini düşürdüğüne dair uyarılarda bulundu. Yapay zekâ ile üretilen sahte kimliklerin, seslerin ve videoların gerçeğinden ayırt edilmesinin giderek zorlaştığı; bu durumun finansal kuruluşlar ve bireysel yatırımcılar için risk seviyesini artırdığı vurgulandı. JPMorgan Chase konuyla ilgili inceleme yaptıklarını belirtirken, İspanya'daki operasyonda çok sayıda dijital materyal ve ateşli silaha el konulduğu bildirildi.