Salt Lake City Polis Şefi’nin sesinin ve görüntüsünün yapay zekâ ile taklit edilerek dolandırıcılık girişiminde kullanıldığı bildirildi

Salt Lake City Polis Teşkilatı (SLCPD), Polis Şefi Mike Brown’ın sesinin ve görüntüsünün yapay zekâ kullanılarak taklit edildiği bir dolandırıcılık yöntemi hakkında kamuoyuna uyarıda bulundu. Woods Cross’ta yaşayan bir vatandaşın, emniyet teşkilatına aitmiş gibi gösterilen sahte bir e-posta hesabı üzerinden, Şef Brown’ın yer aldığı manipüle edilmiş bir video mesaj aldığı aktarıldı.

Söz konusu videoda, Şef Brown’ın yıllar önce verdiği bir televizyon röportajına ait görüntülerin kullanıldığı, ancak sesin yapay zekâ ile klonlanarak değiştirildiği belirtildi. Videodaki sahte sesin, alıcının reddedilen bir para transferi nedeniyle federal hükümete yaklaşık 100.000 ABD doları borcu olduğunu iddia ettiği bildirildi. Emniyet yetkilileri, sesin Şef Brown’a oldukça benzediğini ve inandırıcı olabileceğini, ancak dikkatli incelendiğinde doğal olmayan konuşma kalıpları, kelimelerdeki tuhaf vurgular, tutarsız tonlamalar ve dudak senkronizasyonu hataları gibi teknik kusurların fark edilebileceğini açıkladı.

Yetkililer, dolandırıcılık girişiminde kullanılan e-posta adresinin resmi "slc.gov" uzantısı yerine, emniyet teşkilatının adını ve sayısal bir ibareyi içeren sahte bir Google hesabı olduğuna dikkat çekti. Benzer yöntemlerin Tulsa ve Hindistan gibi farklı bölgelerde de emniyet görevlilerinin veya mağdurların yakınlarının seslerini taklit ederek para sızdırmak amacıyla kullanıldığına dair raporlar bulunduğu hatırlatıldı. SLCPD, emniyet birimlerinin vatandaşlardan telefon veya e-posta yoluyla asla para talep etmeyeceğini vurgulayarak, bu tür şüpheli iletişimlerin resmi kanallardan doğrulanması gerektiğini belirtti.

Olayda kullanılan video, devam eden soruşturma kapsamında delil olarak değerlendirildiği için kamuoyuyla paylaşılmamıştır. Bu tür vakalarda yapay zekâ sistemlerinin dolandırıcılık faaliyetini doğrudan yürütmediği, ancak kötü niyetli kişilerce inandırıcılığı artırmak amacıyla bir araç olarak kullanıldığı değerlendirilmektedir.