Batı Avustralya Başbakanı Roger Cook’un deepfake videosunun YouTube’da yatırım dolandırıcılığında kullanıldığı bildirildi

Batı Avustralya Başbakanı Roger Cook’un görüntüsü ve sesini taklit eden yapay zekâ üretimi bir video, YouTube’da açılır reklam biçiminde yayımlanarak doğrulanmamış bir yatırım planının tanıtımında kullanıldı. Videoda Cook’un düşük yatırımla yüksek getiri vadeden sistemi hükûmet adına desteklediği izlenimi oluşturuldu.

Reklam, 400 Avustralya doları tutarındaki başlangıç yatırımıyla ilk ay içinde ortalama 19.200 dolar kazanç sağlanabileceğini ileri sürdü. Cook, koyu renkli ahşap bir masanın arkasında resmî bir ortamda konuşuyormuş gibi gösterildi. Batı Avustralya Tüketiciyi Koruma birimi, videonun gerçek olmadığını ve kişisel ya da finansal bilgileri ele geçirmek amacıyla hazırlanmış bir yatırım dolandırıcılığı olduğunu açıkladı.

Kurum, bir vatandaşın bildirimi üzerine reklamla bağlantılı alan adının hizmet sağlayıcısıyla iletişime geçerek içeriğin kaldırılmasını talep etti. Reklamın kısa süreli açılır pencere biçiminde gösterilmesinin, izleyicilerin dudak hareketleriyle ses arasındaki uyumsuzluklar ve olağan dışı el görüntüleri gibi sentetik içerik işaretlerini incelemesini güçleştirdiği belirtildi.

Roger Cook, görüntüsünün dolandırıcılık amacıyla kullanılmasını kaygı verici olarak nitelendirdi ve Batı Avustralya hükûmetinin herhangi bir yatırım programını desteklemediğini açıkladı. İçeriğin hazırlanmasında kullanılan yapay zekâ aracı ile reklamı yayımlayan kişilerin kimliği kamuya açık bilgilerde belirlenmedi.

Reklam sonucunda para gönderen veya kişisel bilgileri ele geçirilen kişilerin bulunup bulunmadığı açıklanmadı. Bu nedenle olay, doğrulanmış mali kayıptan ziyade bir kamu görevlisinin sentetik görüntü ve sesi kullanılarak yatırım dolandırıcılığı gerçekleştirme girişimi olarak değerlendirilmiştir.