Arizona’da bir anne, kızının sesinin yapay zekâ ile kopyalandığına inandığı sahte bir kaçırma senaryosuyla karşı karşıya kaldı

Arizona, Scottsdale’de yaşayan Jennifer DeStefano, 2023 yılı başlarında tanımadığı bir numaradan aldığı telefon çağrısında, o sırada kayak eğitiminde olduğunu düşündüğü 15 yaşındaki kızı Brianna’nın sesini duyduğunu ifade etmiştir. DeStefano’nun anlatımına göre, telefondaki ses ağlayarak yardım istemiş; ardından bir erkek şahıs kızı kaçırdığını ileri sürerek önce 1 milyon dolar, sonra 50 bin dolar fidye talep etmiştir.

Olay sırasında bir dans stüdyosunda bulunan DeStefano, çevresindekilerin yardımıyla gerçek kızına ulaşmış ve kızının aslında evinde ve güvende olduğunu teyit etmiştir. Yaklaşık dört dakika süren bu süreçte mağdur, telefondaki sesin kızının tonlaması ve ağlama biçimiyle birebir aynı olduğunu, bu nedenle durumdan şüphe duymadığını belirtmiştir. Uzmanlar, dolandırıcıların sosyal medya gibi platformlardan elde edilen kısa ses kayıtlarını kullanarak yapay zekâ yardımıyla inandırıcı ses klonları oluşturabildiği konusunda uyarmaktadır.

Vakada kullanılan sesin yapay zekâ ürünü olduğu henüz resmi makamlarca teknik olarak doğrulanmamış olsa da, mağdur ve bilişim uzmanları bu ihtimal üzerinde durmaktadır. FBI ve FTC, bu tür "sanal kaçırma" vakalarında yapay zekâ kullanımının dolandırıcılığı daha ikna edici hale getirdiğine dair genel uyarılarda bulunmuştur.

Olayda maddi kayıp yaşanmamış ancak aile ciddi psikolojik travma geçirmiştir. Yetkililer, bu tür durumlarda hızı yavaşlatmayı ve aile içi özel şifreler kullanmayı önermektedir.