Yapay zekâ ile üretilen sentetik sesin bir bankanın biyometrik güvenlik sistemini aşmak için kullanılabileceği bildirildi

Vice yazarı Joseph Cox, ElevenLabs tarafından sunulan yapay zekâ araçlarını kullanarak kendi sesini klonladığını ve bu sentetik sesle Birleşik Krallık merkezli Lloyds Bank’ın "Voice ID" (Sesli Kimlik) güvenlik sistemini başarıyla geçtiğini bildirdi. Cox, yaklaşık beş dakikalık bir ses kaydıyla oluşturduğu yapay zekâ çıktısını bankanın otomatik hizmet hattına dinleterek; kurbanın doğum tarihi bilgisiyle birlikte hesap bakiyesi, son işlemler ve transferlerin listesi gibi bilgilere erişim sağladığını aktardı.

Bankanın güvenlik sisteminin, "sesim benim şifremdir" ifadesini içeren sentetik kaydı birkaç saniye içinde doğruladığı belirtildi. Cox, ilk denemelerin başarısız olduğunu ancak ElevenLabs üzerinde yaptığı tonlama ve vurgu iyileştirmelerinin ardından sistemin kandırılabildiğini ifade etti. Bu durumun, ses biyometrisini parmak izi kadar güvenli bir yöntem olarak pazarlayan finans kuruluşlarının güvenlik iddialarını tartışmaya açtığı değerlendirilmektedir.

Lloyds Bank yetkilileri, sesli kimlik doğrulamanın geleneksel yöntemlerden daha güvenli olduğunu savunmaya devam ederken, sentetik ses tehdidinin farkında olduklarını ve çeşitli karşı önlemler aldıklarını açıkladı. Banka, şimdiye kadar müşterilerine yönelik bu yöntemle gerçekleştirilmiş gerçek bir dolandırıcılık vakasına rastlanmadığını, sesli kimlik sisteminin telefon bankacılığındaki dolandırıcılık oranlarını düşürdüğünü belirtti. Ancak siber güvenlik uzmanları, özellikle kamuya açık ses kayıtları bulunan kişilerin (gazeteciler, politikacılar, içerik üreticileri vb.) bu tür sosyal mühendislik saldırılarına karşı savunmasız kalabileceği konusunda uyarıda bulundu.

Olayda yapay zekâ sistemi doğrudan bir banka soygunu gerçekleştirmemiş; ancak biyometrik güvenlik katmanlarının yapay zekâ tarafından üretilen içeriklerle aşılabilir olduğu deneysel olarak gösterilmiştir. ABD ve Avrupa'daki pek çok bankanın benzer teknolojileri kullandığı göz önüne alındığında, ses tabanlı kimlik doğrulamanın tek başına yeterli bir güvenlik önlemi olmayabileceği iddia edilmektedir.