TikTok’ta ElevenLabs ses klonlama teknolojisi kullanılarak üretilen yapay zekâ sesleriyle kitlesel ölçekte komplo teorisi videoları yayımlandığı bildirildi

Dezenformasyon izleme kuruluşu NewsGuard tarafından Eylül 2023’te yayımlanan bir raporda, TikTok’ta faaliyet gösteren 17 hesaplık bir ağın, ElevenLabs firmasına ait gerçekçi yapay zekâ ses klonlama teknolojisini kullanarak kitlesel ölçekte asılsız komplo teorileri yaydığı tespit edildi. Rapora göre, Haziran 2023’ten itibaren paylaşım yapmaya başlayan bu hesaplar, yaklaşık 5.000 video üreterek toplamda 336 milyondan fazla izlenme ve 14,5 milyon beğeniye ulaştı. Videolarda, eski ABD Başkanı Barack Obama’nın kişisel şefinin ölümünden sorumlu tutulduğu, Oprah Winfrey’nin insan kaçakçılığına karıştığı ve aktör Jamie Foxx’un COVID-19 aşısı nedeniyle felç kalıp kör olduğu gibi asılsız iddiaların yapay zekâ sesleriyle seslendirildiği aktarıldı.

Raporda öne çıkan bir örnekte, @e.news.tv adlı hesapta yayımlanan bir videoda, ElevenLabs’in "Natasha" adlı ses modeliyle seslendirilen bir anlatımın ardından, Barack Obama’nın sesinin taklit edildiği ve şefinin ölümüne ilişkin uydurma bir açıklamayı okuduğu belirlendi. NewsGuard analistlerinin ElevenLabs’in ses sınıflandırma aracıyla yaptığı testte, sesin %98 olasılıkla bu platformda üretildiği sonucu alındı. Ancak New York Times tarafından yapılan testlerde, ses dosyasına müzik eklendiğinde veya ses tahrif edildiğinde ElevenLabs tespit aracının başarısız olduğu ve kötü niyetli kişilerin bu denetimlerden kaçınabileceği görüldü. Ayrıca, videolardaki bazı robotik telaffuz hataları dışında, sıradan kullanıcıların bu seslerin yapay zekâ tarafından üretildiğini ayırt etmesinin oldukça güç olduğu vurgulandı.

Ağdaki hesapların büyük bir kısmının, güvenilirlik kazanmak amacıyla E! News, Yahoo News ve Dr. Phil gibi ana akım medya organlarını taklit edecek şekilde adlandırıldığı ve logolar kullandığı belirtildi. TikTok sözcüsü Jamie Favazza, platformun yapay zekâ içeriklerini etiketleme araçları sunduğunu belirtirken; MIT profesörü David G. Rand, yanıltıcı amaç taşıyan kişilerin bu etiketleri kendi istekleriyle kullanmayacağına dikkat çekti. TikTok, NewsGuard’ın bildiriminin ardından taklitçilik kurallarını ihlal eden üç hesabı kapattığını ve bazı içeriklere müdahale edildiğini açıkladı. ElevenLabs yetkilileri ise platformun kötüye kullanımını engellemek amacıyla ses klonlama özelliğini yalnızca ücretli kullanıcılara açık hale getirdiklerini ve yeni güvenlik önlemleri geliştirdiklerini bildirdi.