Elon Musk’ın deepfake videoları kullanılarak gerçekleştirilen yatırım dolandırıcılıklarının dünya genelinde milyonlarca dolar zarara yol açtığı bildirildi

Yapay zekâ teknolojileri kullanılarak oluşturulan ve Elon Musk gibi tanınmış figürleri sahte yatırım tavsiyeleri verirken gösteren "deepfake" videolarının, internet üzerindeki en büyük dolandırıcılık ağlarından birine dönüştüğü belirtiliyor. 82 yaşındaki emekli Steve Beauchamp’ın, Musk’ın yüksek getiri vaat eden bir yatırım fırsatını onayladığı görülen sahte bir videoya güvenerek yaklaşık 690.000 ABD doları tutarındaki emeklilik birikimini kaybettiği bildirildi. Benzer şekilde, Teksaslı bir kullanıcının Şubat 2023'te YouTube üzerindeki sahte bir video aracılığıyla 36.000 dolar değerinde Bitcoin kaybettiği aktarıldı.

Dolandırıcıların, Elon Musk’ın gerçek röportajlarını temel alarak ses klonlama araçlarıyla yeni bir ses dosyası oluşturduğu ve dudak senkronizasyonu teknolojisiyle görüntüdeki ağız hareketlerini bu yeni metne uyarladığı belirtildi. Tehdit istihbaratı şirketi Sensity’nin verilerine göre, Musk’ın geçen yılın sonundan bu yana deepfake dolandırıcılık videolarının yaklaşık dörtte birinde, kripto para odaklı sahte videoların ise %90’ında ana figür olarak kullanıldığı saptandı. Bu videolarda Musk’ın yanı sıra Jeff Bezos ve Warren Buffett gibi isimlerin de taklit edildiği görüldü.

Söz konusu içeriklerin Facebook’ta ücretli reklamlar aracılığıyla, YouTube’da ise "canlı" ibaresi eklenmiş önceden kaydedilmiş videolar şeklinde yayıldığı ifade edildi. Meta (Facebook), dolandırıcılık faaliyetlerini tespit etmek için otomatik sistemler eğittiğini ancak dolandırıcıların sürekli taktik değiştirdiğini belirtirken; YouTube, milyonlarca kanal ve videonun ihlaller nedeniyle kaldırıldığını açıkladı. Avustralyalı milyarder Andrew Forrest’ın, benzer sahte reklamların platformunda yayımlanmasına izin verdiği gerekçesiyle Meta’ya karşı ihmal davası açtığı bilgisi paylaşıldı.

Sensity yöneticisi Francesco Cavalli, bu videoların üretim maliyetinin 10 dolar gibi düşük seviyelerde olduğunu ve 10 dakikadan kısa sürede hazırlanabildiğini belirtmektedir. Videolardaki seslerin zaman zaman robotik tınlaması veya teknik kusurlara rağmen, içeriklerin kullanıcıları ikna edebilecek kadar gerçekçi olduğu görülmektedir. FBI ve FTC gibi kurumlar yapay zekâ destekli siber suçlara karşı uyarırken, Deloitte verileri bu tür yöntemlerle her yıl milyarlarca dolarlık finansal kayıp yaşanabileceğini öngörmektedir.