Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Sudan iç savaşı sırasında eski lider Ömer el-Beşir’in sesinin yapay zekâ ile taklit edildiği iddia edildi
Sudan iç savaşı sırasında eski lider Ömer el-Beşir’in sesini taklit eden yapay zekâ üretimi sahte kayıtların TikTok’ta yayımlanarak dezenformasyona yol açtığı ve platform tarafından kaldırıldığı bildirildi.
Olay
Sudan’da devam eden iç savaşın yarattığı istikrarsızlık ortamında, Ağustos 2023’ten itibaren TikTok’taki "The Voice of Sudan" adlı anonim bir hesap üzerinden, devrik lider Ömer el-Beşir’e ait olduğu öne sürülen "sızdırılmış ses kayıtları" yayımlandı. Yüz binlerce izlenmeye ulaşan bu içeriklerin, yapay zekâ destekli ses klonlama teknolojisiyle üretilmiş olabileceği bildirildi. 2019’da devrilen ve uzun süredir kamuoyu önüne çıkmayan Beşir’in, kayıtlarda mevcut ordu yönetimini eleştirdiği ve siyasi sürece dair mesajlar verdiği görüldü.
Bir sosyal medya kullanıcısının dikkati ve BBC'nin ardından yaptığı inceleme sonucunda, söz konusu ses kayıtlarının içeriğinin, ABD’de yaşayan Sudanlı bir siyasi yorumcunun (Al Insirafi) Facebook üzerinden yaptığı canlı yayınlarla birebir örtüştüğü saptandı. Uzmanlar, ses dönüştürme yazılımları kullanılarak bu yorumcunun konuşmalarının Beşir’in ses karakteristiğine uyarlandığını değerlendirdi. Bu tür sentetik içeriklerin, dezenformasyon yoluyla halkın kafasını karıştırmayı veya belirli siyasi görüşleri eski liderin otoritesini kullanarak meşrulaştırmayı amaçladığı ifade edildi.
İlgili TikTok hesabı, platformun "ciddi zarar verebilecek yanlış içerik" ve "sentetik medya" kurallarını ihlal ettiği gerekçesiyle kapatıldı. Hesap yöneticisi ise yaptığı açıklamada herhangi bir grupla bağlantısı olmadığını savunarak, amacının ülkenin gerçeklerini kendi tarzıyla anlatmak olduğunu iddia etti. Sudan’daki çatışma sürecinde sadece ses klonlamanın değil, yapay zekâ üretimi sahte üniversite yangını görsellerinin ve diplomatlara ait sahte videoların da taraflarca psikolojik harp unsuru olarak kullanıldığı aktarıldı.
Ayrıca, bölgedeki siyasetçilerin kendilerine ait olduğu iddia edilen gerçek ses kayıtlarını "yapay zekâ üretimi" diyerek reddetmeye başladığı (yalancının temettüsü) ve bu durumun bilgi ekosistemindeki güvenilirliği daha da zayıflattığı belirtildi. Sudan’daki düşük kaynaklı diller ve yerel lehçeler üzerindeki yapay zekâ eğitim verisi eksikliğinin, şimdilik bu tür sahte içeriklerin "robotik tınısı" sayesinde ayırt edilmesini kolaylaştırdığı ancak teknolojinin gelişmesiyle bu durumun değişebileceği vurgulandı.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?