Chicago belediye başkan adayı Paul Vallas’ın sesinin deepfake teknolojisiyle taklit edilerek yanıltıcı ifadeler yayılmasına neden olduğu iddia edildi

Chicago belediye başkanlığı seçimleri arifesinde, aday Paul Vallas’ın sesini taklit eden ve dezenformasyon içerdiği belirtilen bir videonun sosyal medyada dolaşıma girdiği bildirildi. "Chicago Lakefront News" adlı yeni oluşturulmuş bir hesap tarafından paylaşılan videoda, Vallas’ın fotoğrafı üzerine bindirilmiş ve kendisine ait olduğu izlenimi verilen bir sesin; geçmişte polislerin çok sayıda kişiyi öldürdüğü ve kimsenin buna tepki göstermediği yönünde ifadeler kullandığı, ayrıca emniyet bütçesinin artırılmasını savunduğu aktarıldı.

Vallas’ın kampanya ekibi, videonun "aldatıcı bir taklit" olduğunu ve deepfake teknolojisi kullanılarak adayın karakterine zarar verilmesinin amaçlandığını belirterek durumu kınadı. Northwestern Üniversitesi'nden bilgisayar bilimleri profesörü V.S. Subrahmanian, ses taklidinin oldukça başarılı olduğunu ve bu tür içeriklerin güncel modellerle dakikalar içinde üretilebildiğini ifade etti. Poynter Enstitüsü'nden Al Tompkins ise seçime çok kısa bir süre kala yayımlanan bu tür yanıltıcı içeriklerin sosyal mecralarda hızla yayıldığını ve verilen zararın telafi edilmesinin güç olduğuna dikkat çekti.

İlgili platform (Twitter), şikâyetlerin ardından videoyu yayından kaldırdı ve paylaşımı yapan hesabı askıya aldı. Ancak videonun kaldırılmadan önce binlerce kez izlendiği ve sosyal mecralarda yayıldığı belirtildi. Olayda kullanılan ses klonlama aracının türü kesin olarak belirlenememiş olsa da, kampanya yetkilileri içeriğin tamamen yapay zekâ üretimi ve sahte olduğunu vurguladı.