Yapay zekâ ile üretilen deepfake videoların kitlesel yayılımı, kimlik taklidi yoluyla dezenformasyon ve güven erozyonu risklerini ortaya koymuştur.

Yunan ekonomist ve siyasetçi Yanis Varoufakis, yüzünü ve sesini taklit eden çok sayıda yapay zekâ üretimli videonun YouTube ile diğer sosyal medya platformlarında yayıldığını açıkladı. Videolarda Varoufakis’in gerçekte söylemediği siyasi ve jeopolitik değerlendirmeleri dile getirdiği izlenimi oluşturuldu. Bazı içeriklerin teknik açıdan belirgin biçimde yapay olduğu, bazılarının ise izleyicileri yanıltabilecek ölçüde gerçekçi göründüğü belirtildi.

Varoufakis, sahte içeriklerden birini, videodaki sentetik görüntünün üzerinde Atina’daki çalışma ortamında hiç giymediğini belirttiği mavi bir gömlek bulunması nedeniyle fark ettiğini aktardı. Görüntülerde Atina’daki ofis masasını andıran bir arka plan kullanılırken yapay zekâ ile sentezlenen ses aracılığıyla Venezuela’daki kurgusal bir darbe dâhil olmak üzere farklı uluslararası gelişmeler hakkında açıklamalar yaptığı izlenimi verildi.

Varoufakis, destekçilerinin kendisine bu açıklamaları gerçekten yapıp yapmadığını sorduğunu, bazı muhaliflerinin ise sahte videoları kendisine karşı kanıt olarak dolaşıma soktuğunu bildirdi. İçeriklerin tam sayısı bağımsız olarak doğrulanmamakla birlikte Varoufakis bunların yüzlerce olduğunu ifade etti. Kullanılan yapay zekâ modelleri ile içerikleri oluşturan kişi veya grupların kimliği kamuya açıklanmadı.

Varoufakis, videoların kaldırılması amacıyla Google, Meta ve diğer platformlarla iletişime geçtiğini; bazı içeriklerin yaklaşık bir hafta sonra kaldırıldığını ancak farklı hesaplar ve biçimlerle yeniden yayımlandığını belirtti. Kamuya açık kaynaklarda resmî bir soruşturma başlatıldığına veya içerik üreticilerinin tespit edildiğine ilişkin doğrulanmış bilgi bulunmamaktadır. Olay, kamuya mal olmuş bir kişinin kimliğinin izinsiz biçimde sentezlenmesi, siyasi yanlış bilginin yayılması ve platformların tekrarlanan deepfake içerikleri denetlemekte yaşadığı güçlükler kapsamında değerlendirilmektedir.