Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Lara Lewington ve Martin Lewis’in Deepfake Görüntülerinin Sahte “Quantum AI” Yatırım Programını Tanıtmak İçin Kullanıldığı Bildirildi
Dolandırıcılar, Lara Lewington’ın saldırıya uğradığını gösteren yapay zekâ üretimi sahte bir video ile Martin Lewis’in kimliğini kullanarak kullanıcıları gerçekte var olmayan “Quantum AI” yatırım programına yönlendirdi.
Olay
Dolandırıcıların, tüketici finansmanı uzmanı Martin Lewis ile eşi ve teknoloji sunucusu Lara Lewington’ın kimliklerini kullanarak sahte bir yatırım reklamı hazırladığı bildirildi. Deepfake videoda Lewington, kurgusal bir “Martin Lewis Quantum AI” yatırım programına kabul edilmediği öne sürülen ve içerikte “göçmen” olarak tanımlanan bir kişinin saldırısına uğramış gibi gösterildi.
Şiddet içeren sahte senaryonun, kullanıcıların dikkatini çekerek reklam bağlantısına tıklamalarını sağlamak ve onları dolandırıcılık amacı taşıyan yatırım sayfalarına yönlendirmek için kullanıldığı belirtildi. Reklamda Martin Lewis’in adı ve kamuoyu nezdindeki güvenilirliği, sözde yapay zekâ tabanlı yatırım programına meşruiyet kazandırmak amacıyla istismar edildi.
Martin Lewis, endişelenen arkadaşlarının kendisiyle iletişime geçmesi üzerine videodan haberdar oldu. Sosyal medya üzerinden yaptığı açıklamada eşinin güvende olduğunu, videodaki olayın gerçekleşmediğini ve kendisiyle bağlantılı meşru bir “Quantum AI” yatırım programının bulunmadığını belirtti.
Lewis, olayın dolandırıcıların kendi görüntüsünü ve kimliğini kullandığı daha geniş bir sahte reklam eğiliminin parçası olduğunu ifade etti. Daha önce de öldürüldüğü, saldırıya uğradığı veya çeşitli yüksek kazançlı yatırım programlarını desteklediği izlenimi veren sahte içeriklerde kullanıldığını açıkladı.
Dolandırıcılık reklamlarının sosyal medya platformları üzerinden ücretli olarak dağıtıldığı bildirildi. Lewis, platformları suç niteliğindeki içeriklerin reklam gelirleri karşılığında yayımlanmasına izin vermekle ve Birleşik Krallık Çevrim İçi Güvenlik Yasası kapsamındaki dolandırıcılık reklamı kurallarını yeterince hızlı uygulamamakla eleştirdi.
Vaka, yapay zekâ ile üretilen şiddet içerikli sahte görüntülerin sansasyonel tıklama tuzağı olarak kullanılabileceğini ve kamuya mal olmuş kişilerin güvenilirliğinin yüksek getirili yatırım dolandırıcılıklarında istismar edilebileceğini göstermektedir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?