Joe Rogan’ın bir sağlık takviyesini tanıttığı deepfake reklam videosunun TikTok’ta yayıldığı bildirildi

Şubat 2023'te TikTok platformunda, ünlü podcast yayıncısı Joe Rogan ve konuğu Profesör Andrew Huberman'ın "Alpha Grind" adlı bir takviye edici gıdayı övdüğü bir reklam videosunun viral hale geldiği bildirildi. Videoda Rogan'ın, ürünün Amazon'da nasıl bulunacağını tarif ettiği görüldü. Ancak videonun, Rogan'ın sesinin yapay zekâ ile klonlanması ve Huberman'ın gerçek görüntülerinin bağlam dışı kullanılmasıyla oluşturulmuş bir "deepfake/cheapfake" olduğu anlaşıldı.

Podcast konuğu Andrew Huberman, Twitter üzerinden yaptığı açıklamada videodaki konuşmanın hiçbir zaman gerçekleşmediğini ve sahte bir diyalog oluşturulduğunu belirtti. Uzmanlar, Rogan'ın sesinin ElevenLabs gibi araçlarla sentezlenmiş olabileceğini değerlendirmektedir. Orijinal görüntülerin bir kısmının, Rogan'ın profesyonel bilardo oyuncusu Fedor Gorst ile yaptığı aralık ayındaki podcast bölümünden alındığı tespit edildi.

TikTok, söz konusu içeriğin "zararlı dezenformasyon" politikalarını ihlal ettiğini belirterek videoyu kaldırdı ve reklamı yayımlayan "@mikesmithtrainer" adlı hesabı kalıcı olarak askıya aldı. Benzer şekilde, videonun milyonlarca kez izlendiği Twitter platformunda da telif hakkı bildirimleri üzerine içeriklerin bir kısmı erişime kapatıldı. Ürünün Amazon sayfasında "TikTok'ta viral" ibaresi yer alsa da, üretici firma Top Shelf Grind Inc. ve Joe Rogan olayla ilgili resmi bir açıklama yapmadı.

Olayda kullanılan tam teknik altyapı ve videoyu oluşturan tarafların kimliği kesin olarak doğrulanmamıştır. Bununla birlikte vaka, yapay zekâ destekli ses manipülasyonunun ticari dolandırıcılık amacıyla kullanımına dair riskleri ortaya koymaktadır.