YouTube’da yapay zekâ ile üretilen sahte içeriklerin siyahi ünlülere yönelik dezenformasyon yaymak için kullanıldığı iddia edildi

YouTube üzerinde faaliyet gösteren çeşitli kanalların; Sean “Diddy” Combs, Steve Harvey, Denzel Washington ve T.D. Jakes gibi tanınmış siyahi figürler hakkında üretken yapay zekâ ve manipüle edilmiş medya araçlarını kullanarak asılsız içerikler ürettiği bildirildi. Bu videoların, gerçekte var olan hukuki süreçleri veya skandalları temel alarak, bunların üzerine yapay zekâ ile kurgulanmış sahte anlatılar eklediği ve milyonlarca izlenmeye ulaştığı aktarıldı.

Uzmanlar tarafından yapılan teknik incelemelerde, söz konusu içeriklerin seslendirmelerinde ve video küçük resimlerinde (thumbnail) yüksek olasılıkla yapay zekâ müdahalesi olduğu değerlendirildi. Örneğin, Combs’un Tupac Shakur davasıyla bağlantılı olarak tutuklandığını öne süren bir videonun ses analizlerinde, içeriğin %98 ile %99 olasılıkla yapay zekâ tarafından üretildiği saptandı. Bu tür içeriklerin, platformun algoritmaları tarafından üst sıralara çıkarıldığı ve izleyicilerde gerçeklik algısı oluşturarak dezenformasyona zemin hazırladığı öne sürüldü.

YouTube, ihlalde bulunan bazı kanalları kapattığını, reklam gelirlerini kestiğini ve içerikleri kaldırdığını açıklasa da, benzer içeriklerin yayılmaya devam ettiği gözlemlendi. İncelemeye konu olan kanallardan birinin temsilcisi, seslendirme için yapay zekâ destekli metinden sese teknolojisini kullandığını kabul ederken; senaryo veya görsellerde yapay zekâ kullanıldığı iddialarını reddetti.

Olay, üretken yapay zekânın dezenformasyon kampanyalarını otomatize etme ve inandırıcılığını artırma potansiyelini ortaya koymaktadır. Özellikle platformların içerik denetim mekanizmalarının ve algoritmik sıralama sistemlerinin, yapay zekâ ile üretilen bu tür yanıltıcı içeriklere karşı savunmasız kalabildiği değerlendirilmektedir.