Üretken yapay zekâ araçlarının dolandırıcılık faaliyetlerinde ikna kabiliyetini artırdığı ve geleneksel güvenlik göstergelerini etkisiz kıldığı bildirildi

Federal Ticaret Komisyonu (FTC) verileri ve siber güvenlik uzmanlarının değerlendirmelerine göre, üretken yapay zekâ teknolojilerinin dolandırıcılar tarafından kullanımının, kötü niyetli girişimlerin tespit edilmesini zorlaştırdığı bildirilmektedir. Geçmişte dolandırıcılık faaliyetlerini ele veren bozuk dil bilgisi ve zayıf anlatım gibi unsurların, büyük dil modelleri sayesinde ortadan kalktığı; sistemlerin çok daha ikna edici ve doğal bir iletişim kurabildiği aktarılmaktadır. Yapay zekânın, sosyal medya ve veri sızıntılarından elde edilen kişisel bilgileri analiz ederek hedefe özel sosyal mühendislik saldırıları düzenlemek için kullanıldığı belirtilmektedir.

Vaka örneklerinde, dolandırıcıların yapay zekâ yardımıyla üst düzey yöneticilerin seslerini taklit ederek sahte para transferi talimatları verdiği veya kişilerin seslerini klonladığı aktarılmaktadır. Florida’da yaşanan bir olayda, Joey Rosati isimli bir iş insanının, kendisini polis olarak tanıtan ve sosyal güvenlik numarası gibi kişisel bilgilerine sahip olan bir dolandırıcı tarafından 4.500 ABD doları ödemeye zorlandığı, ancak Rosati'nin durumu son anda fark ederek dolandırılmaktan kurtulduğu bildirilmiştir. Benzer şekilde, iş arayanlara yönelik yapay zekâ destekli sahte iş teklifleri üzerinden finansal dolandırıcılık girişimleri yapıldığı kaydedilmektedir.

Güvenlik yetkilileri, suçluların artık yapay zekâ kullanarak sahte sürücü belgeleri oluşturduğunu ve kimlik doğrulama sistemlerini aşmak için bilgisayar ortamında üretilmiş yüzler kullandığını ifade etmektedir. Finans kuruluşları bu tehditlerle mücadele etmek amacıyla kendi büyük dil modellerini devreye alırken; RSA Security gibi teknoloji sağlayıcıları, kullanıcıların yazım hızı, cihaz kullanım alışkanlıkları ve ses mükemmelliği gibi davranışsal verileri izleyerek yapay zekâ tabanlı müdahaleleri tespit etmeye çalışmaktadır.

FTC verilerine göre, 2023 yılında dolandırıcılık nedeniyle bildirilen kayıpların 10 milyar ABD dolarına ulaştığı, ancak raporlanmayan vakalarla birlikte gerçek rakamın 200 milyar dolara yakın olabileceği tahmin edilmektedir. Uzmanlar, yapay zekâ içeriklerinin kusursuz dil bilgisi nedeniyle geleneksel şüphe uyandırıcı belirtileri taşımadığını vurgulamaktadır.