Yapay zekâ destekli ses klonlama teknolojisiyle gerçekleştirilen kimlik taklidi dolandırıcılıklarının mağdurları ciddi maddi zarara uğrattığı bildirildi

Amerika Birleşik Devletleri Federal Ticaret Komisyonu (FTC) verilerine göre, 2022 yılında ABD’de "kimlik taklidi" (impostor scams) dolandırıcılıkları 36.000'den fazla raporla en yaygın ikinci dolandırıcılık türü olmuştur. Bu vakaların telefon üzerinden gerçekleştirilen 5.100’den fazlasında toplam 11 milyon ABD doları tutarında kayıp yaşandığı aktarılmıştır. Günümüzde kötü niyetli kişilerin bu yöntemlere yapay zekâ destekli ses klonlamayı da eklediği bildirilmektedir.

Kanada’da yaşanan bir vakada, Benjamin Perkin’in yaşlı ebeveynlerinin, oğullarının sesini taklit eden bir yapay zekâ yazılımı tarafından kandırıldığı öne sürülmüştür. Mağdurların, kendisini avukat olarak tanıtan bir kişiden telefon aldığı; telefondaki kişinin oğullarının bir trafik kazasında ABD’li bir diplomatın ölümüne neden olduğunu iddia ettiği belirtilmiştir. Dolandırıcıların, Perkin’in YouTube videoları gibi halka açık kaynaklardan elde edilmiş olabileceği tahmin edilen ses örnekleriyle oluşturulmuş sentetik bir sesi ebeveynlerine dinleterek güven kazandığı ve aileden yaklaşık 15.000 ABD doları (21.000 Kanada doları) değerinde Bitcoin tahsil ettiği bildirilmiştir.

Bir diğer vakada ise 73 yaşındaki Ruth Card’ın, torunu Brandon’ın sesine benzeyen bir telefon aldığı; sahte sesin kefalet için paraya ihtiyacı olduğunu söylemesi üzerine bankaya gittiği aktarılmıştır. Card’ın, banka müdürünün benzer bir dolandırıcılık girişimi hakkında kendisini uyarması sayesinde maddi zarardan kurtulduğu ifade edilmiştir. Uzmanlar, geçmişte ses klonlamak için uzun kayıtlar gerekirken, güncel teknolojilerle sosyal medyada paylaşılan 30 saniyelik bir ses kesitinin bile yeterli olabildiğine dikkat çekmektedir.

ElevenLabs gibi teknoloji şirketleri, sistemlerinin kötüye kullanımını engellemek amacıyla ücretsiz sürümlerde özel ses klonlama özelliğini kaldırdıklarını ve tespit araçları geliştirdiklerini açıklamıştır. Ancak dijital adli tıp uzmanı Hany Farid, yasal düzenlemelerin bu hızlı teknolojik gelişme karşısında yetersiz kalabileceği ve suçluların küresel ölçekte faaliyet göstermesi nedeniyle takibinin zor olduğu konusunda uyarılarda bulunmaktadır.