Güney Kore cumhurbaşkanlığı seçimlerinde kullanılan yapay zekâ avatarları, siyasi etik ve dezenformasyon riskleri konusunda tartışmalara yol açtı

2022 Güney Kore cumhurbaşkanlığı seçimleri sürecinde, adayların genç seçmenlere ulaşmak ve kamuoyu imajlarını dijital ortamda yeniden şekillendirmek amacıyla yapay zekâ destekli dijital avatarlar (deepfake) kullandığı bildirildi. Özellikle ana muhalefet partisi adayı Yoon Suk-yeol için geliştirilen "AI Yoon" adlı avatarın, adayın gerçek hayattaki sert mizacının aksine, mizahi ve sosyal medya trendlerine uygun bir dille hazırlanan 80'den fazla kısa videoda yer aldığı aktarıldı. Sistemin, DeepBrain AI şirketi tarafından adayın yaklaşık 20 saatlik ses ve görüntü verisi ile 3.000 cümlesinin işlenmesi sonucu oluşturulduğu belirtildi.

Uygulama, siyasi rakipler ve bazı uzmanlar tarafından "demokrasiye yönelik bir tehdit" ve "seçmenleri yanıltma potansiyeli taşıyan bir araç" olarak eleştirildi. Eleştirenler, yapay zekâ avatarlarının adayın hitabet eksikliklerini ve istenmeyen alışkanlıklarını gizlemek için kullanıldığını öne sürdü. Ayrıca, bu tür sentetik medya kullanımının kötü niyetli kişilerce sahte haber üretimi için emsal teşkil edebileceği ve kamuoyunun dijital içeriklere yönelik güvenini sarsabileceği değerlendirildi.

Güney Kore Ulusal Seçim Komisyonu (NEC), bu teknolojilerin kullanımının seçim yasalarına uygunluğu konusunda incelemelerini sürdürürken, içeriklerin deepfake olduğunun belirtilmesi gerekliliği üzerinde duruldu. Yoon’un rakibi Lee Jae-myung’un da benzer teknolojilere başvurduğu ancak kendi sisteminin gerçek görüntülere dayandığını savunarak rakibini "avatarın arkasına saklanmakla" suçladığı kaydedildi.