Barack Obama’nın ses ve görüntüsünün yapay zekâ ile taklit edilmesinin dijital dezenformasyon ve sahte haber risklerini artırdığı bildirildi

University of Washington’dan bilgisayar bilimcilerinin, eski ABD Başkanı Barack Obama’nın yüksek çözünürlüklü arşiv görüntülerini kullanarak, yapay zekâ yardımıyla gerçeğinden ayırt edilmesi güç sahte videolar ürettiği bildirildi. Araştırmacıların, yaklaşık 14 ila 17 saatlik haftalık sesleniş konuşmalarını bir sinir ağına öğreterek, herhangi bir ses kaydıyla uyumlu, fotorealistik ağız hareketleri oluşturabildiği ve bunları mevcut videolardaki yüz üzerine başarıyla bindirebildiği belirtildi. Bu teknikle, Obama’nın geçmişte söylediği sözlerin yeni bir bağlama yerleştirilebildiği veya bir taklitçinin sesinin Obama’nın görüntüsüne eklenebildiği aktarıldı.

Eş zamanlı olarak, yönetmen Jordan Peele ve BuzzFeed’in iş birliğiyle hazırlanan bir kamu spotunda, "FakeApp" adlı yapay zekâ aracı ve Adobe After Effects kullanılarak Obama’nın aslında söylemediği ifadeleri kullandığı bir video yayımlandı. Videoda Obama’nın mevcut ABD Başkanı hakkında aşağılayıcı ifadeler kullandığı görülürken, bu çalışmanın deepfake teknolojisinin ulaştığı boyuta ve dezenformasyon tehlikesine dikkat çekmek amacıyla hazırlandığı vurgulandı.

Söz konusu teknolojilerin, siyasi figürlerin itibarını zedelemek ve kamuoyunu manipüle etmek için kullanılabileceği değerlendirilmektedir. Teknoloji uzmanı Aviv Ovadya ve çeşitli analiz kaynakları, ses sentezleme yazılımları ile yüz değiştirme araçlarının birleşmesinin toplumsal güveni sarsabileceğine dair endişelerini dile getirdi.

Araştırmayı yürüten bilim insanları, bu teknolojinin işitme engelliler için dudak okuma kolaylığı sağlamak veya video konferans kalitesini artırmak gibi olumlu amaçlarla da kullanılabileceğini savundu. Ayrıca, sahte videoların üretim mantığını anlamanın, bu tür içerikleri tespit edecek karşı algoritmaların geliştirilmesine katkı sağlayacağı ifade edildi. Ancak mevcut durumda, yapay zekânın gelişim hızı karşısında nihai sorumluluğun tüketicinin dijital okuryazarlığına kaldığı belirtildi.