Avustralya hükümetinin kimlik doğrulama sistemlerinde kullanılan ses tanıma teknolojisinin yapay zekâ ile aşılabileceği bildirildi

Guardian Australia tarafından yürütülen bir inceleme, Avustralya hükümetine bağlı Centrelink ve Avustralya Vergi Dairesi (ATO) tarafından milyonlarca kullanıcıya sunulan "sesli imza" (voiceprint) biyometrik doğrulama sisteminin ciddi bir güvenlik açığı barındırdığını ortaya koydu. Bir gazetecinin, kendi sesinden alınan dört dakikalık ses kaydıyla oluşturduğu yapay zekâ tabanlı ses klonunu kullanarak Centrelink’in self-servis telefon sistemine başarıyla giriş yaptığı ve kişisel hesap bilgilerine erişebildiği aktarıldı.

Söz konusu sistemin, Şubat 2023 itibarıyla yaklaşık 3,8 milyon Centrelink müşterisi ve 7,1 milyon ATO kullanıcısı tarafından kimlik doğrulama amacıyla kullanıldığı belirtildi. Sistemin normal şartlarda sesin ritmi ve fiziksel özellikleri gibi ayırt edici unsurları analiz ederek sahte veya kayıt sesleri ayırt edebileceği iddia edilse de, üretken yapay zekâ teknolojisindeki ilerlemelerin bu güvenlik katmanını etkisiz kılabileceği değerlendirilmektedir. Erişim için ses klonunun yanı sıra gerekli olan müşteri referans numarasının ise şifre kadar sıkı korunmadığı ve çeşitli resmi yazışmalarda yer alabildiği vurgulandı.

Services Australia ve ATO yetkilileri, sistemin güvenli olduğunu ve risklerin sürekli izlendiğini savunarak sesli kimlik doğrulamanın hâlâ yüksek güvenlikli bir yöntem olduğunu ifade etti. Teknolojiyi sağlayan Nuance firması ise sentetik sesleri tespit etme oranlarının %86 ile %99 arasında değiştiğini, ancak dolandırıcıların yöntemlerini sürekli geliştirdiğini kabul etti. UNSW AI Enstitüsü'nden Toby Walsh ve UTS İnsan Teknolojisi Enstitüsü'nden Ed Santow gibi uzmanlar, biyometrik verilerin tek başına yeterli bir güvenlik aracı olmadığını ve çok faktörlü doğrulama yöntemleri ile yasal düzenlemelere duyulan ihtiyacın arttığını belirtti.

Olayda yapay zekâ sistemleri doğrudan bir veri sızıntısına neden olmamış; ancak biyometrik bir güvenlik önleminin yapay zekâ tarafından üretilen sentetik içeriklerle manipüle edilebileceği kanıtlanmıştır. Bu durumun, özellikle kamu hizmetlerine erişimde kullanılan otomatik sistemlerde kimlik hırsızlığı riskini artırabileceği öngörülmektedir.