Pakistan genel seçimleri öncesinde siyasi liderlerin ses ve görüntülerinin deepfake teknolojisiyle taklit edilerek seçmenlerin yanıltılmaya çalışıldığı iddia edildi

Pakistan’da 8 Şubat 2024 tarihinde gerçekleştirilen genel seçimlerin hemen öncesinde, tutuklu bulunan eski Başbakan Imran Khan ve partisi Pakistan Tehreek-e-Insaf (PTI) üyelerine ait olduğu iddia edilen sahte ses ve görüntü kayıtlarının sosyal medya platformlarında dolaşıma girdiği bildirildi. Özellikle 7 Şubat akşamı X (eski adıyla Twitter) üzerinden yayılan bir ses kaydında, Khan’ın seçmenlere sandığa gitmeme ve seçimleri boykot etme çağrısında bulunduğu öne sürüldü.

PTI yetkilileri, söz konusu kayıtların tamamen sahte olduğunu ve seçmenleri manipüle etmek amacıyla "kontrollü medya" aracılığıyla yayıldığını savunarak iddiaları reddetti. Parti temsilcileri, Khan’ın hapis yattığı süre boyunca tek talebinin "özgür ve adil seçimler" olduğunu, dolayısıyla boykot çağrısının partinin temel stratejisiyle çeliştiğini belirtti. Olayın karmaşıklığını artıran bir unsur olarak, PTI’nın daha önce Khan’ın cezaevinden gönderdiği yazılı notları kendi onayıyla yapay zekâ ses klonlama teknolojisi kullanarak sesli mesajlara dönüştürdüğü, ancak boykot içerikli bu son kaydın rıza dışı ve kötü niyetli bir üretim olduğu kaydedildi.

Ses adli bilişim uzmanı Tanmay Srivastava ve IIT Jodhpur’dan Profesör Mayank Vatsa liderliğindeki araştırmacılar tarafından yapılan teknik incelemeler, ses kaydının yapay zekâ ile üretildiğine dair güçlü kanıtlar sundu. Srivastava; kayıtta doğal olmayan bir beyaz gürültü bulunduğunu, Khan’ın ses tonunun monoton olduğunu ve "s" ile "t" gibi harflerin mekanik bir tınıya sahip olduğunu tespit etti. Derin öğrenme modelleriyle yapılan analizlerde, sesin yapay yollarla oluşturulduğu %90 ile %100 arasında değişen bir güven oranıyla teyit edildi.

Benzer şekilde, PTI destekli adaylar Muhammad Basharat Raja ve Rehana Dar’a ait olduğu iddia edilen sahte videoların da dolaşıma girdiği bildirildi; Raja, kendisinin seçimden çekildiğini gösteren videonun deepfake olduğunu açıklayarak yalanladı. Media Matters for Democracy kurucusu Sadaf Khan, bu tür dezenformasyon faaliyetlerinin seçim güvenliğini ve demokratik süreci tehlikeye attığını belirtti. Pakistan hükümetinin seçim günü güvenlik gerekçesiyle internet erişimini kesmesinin, sahte içeriklerin doğrulanmasını ve dezenformasyonla mücadeleyi zorlaştırdığı aktarıldı.