Sugar and Dice adlı işletmenin yapay zekâ destekli ses klonlama yöntemiyle dolandırıldığı iddia edildi

ABD’nin Montana eyaletinde faaliyet gösteren Sugar and Dice adlı oyun ve kahve mağazasının, yapay zekâ destekli ses klonlama teknolojisi kullanıldığı iddia edilen bir dolandırıcılık vakasının hedefi olduğu bildirildi. İşletme sahibi Kevin Zorn’un aktardığına göre, bir mağaza çalışanının kişisel cep telefonuna, arayan kimliği Zorn’un numarası olarak maskelenmiş (spoofing) bir çağrı geldi.

Çalışan, telefondaki sesin Zorn’a ait olduğuna ikna olduğunu ve sesin gerçeğinden ayırt edilemediğini ifade etti. Görüşme sırasında dolandırıcıların, bir "arama emri" (warrant) olduğunu belirterek çalışana çeşitli talimatlar verdiği öne sürüldü. Bu yönlendirmeler sonucunda işletmenin banka bilgilerinin ele geçirildiği ve mağazanın maddi kayba uğradığı belirtildi.

İşletme sahibi Zorn, çalışanın işletmeyi ve yöneticisini koruma motivasyonuyla hareket ettiğini belirterek olaydan dolayı çalışanı suçlamadığını açıkladı. Yaşanan finansal kayba rağmen işletmenin faaliyetlerine devam edeceği ve toparlanma sürecine girildiği kaydedildi. Olayda gerçekten yapay zekâ yazılımı kullanılıp kullanılmadığı veya dolandırıcıların kimliği hakkında henüz resmi bir doğrulama bulunmamaktadır.

Olay, yapay zekâ ile ses taklidinin sosyal mühendislik saldırılarında ne kadar ikna edici kullanılabileceğine dair bir risk örneği teşkil etmektedir. Sistemin sesi nasıl modellediği ve hangi veri setini kullandığına dair teknik ayrıntılar kamuya açıklanmamıştır.