Hindistan’daki seçim kampanyasında bir siyasetçinin seçmenlere farklı dillerde hitap ettiği deepfake videolarının kullanıldığı bildirildi

7 Şubat 2020’de Delhi Yasama Meclisi seçimleri öncesinde, Hindistan Halk Partisi (BJP) Başkanı Manoj Tiwari’nin yer aldığı iki videonun WhatsApp gruplarında viral olduğu bildirildi. Videolardan birinde Tiwari’nin İngilizce, diğerinde ise Haryanvi lehçesinde konuştuğu; mevcut hükümeti eleştirerek seçmenleri kendi partisine oy vermeye çağırdığı aktarıldı. Ancak Tiwari’nin aslında bu lehçeyi konuşmadığı ve videoların yapay zekâ kullanılarak üretilmiş "deepfake" içerikler olduğu ortaya çıktı.

BJP’nin sosyal medya birimi ve "The Ideaz Factory" adlı siyasi iletişim firması, bu teknolojiyi farklı dil gruplarına ulaşmak amacıyla "pozitif bir kampanya" aracı olarak kullandıklarını açıkladı. Sistemin, Tiwari’nin orijinal bir videosundaki dudak hareketlerini, bir seslendirme sanatçısı tarafından kaydedilen yeni ses dosyasına uyumlu hale getirmek için bir algoritma kullandığı belirtildi. Söz konusu içeriklerin yaklaşık 5.800 WhatsApp grubu üzerinden 15 milyon kişiye ulaştırıldığı iddia edildi.

Teyit kuruluşları ve sivil toplum projeleri, bu tür içeriklerin dezenformasyonla mücadeleyi zorlaştıracağı endişesini dile getirdi. Hindistan merkezli teyit platformu AltNews'un kurucusu Pratik Sinha, videolar kendisine gösterildiğinde bunların sahte olduğunu başlangıçta tespit edemediklerini belirterek durumu "tehlikeli" olarak nitelendirdi. Rochester Teknoloji Enstitüsü’ndeki araştırmacıların videoların deepfake olduğuna inandığı, ancak kesin doğrulama için yazılımsal analizlerin sürdüğü aktarıldı.

Olay, Hindistan’da seçim kampanyalarında deepfake teknolojisinin bilinen ilk kullanımı olarak kayıtlara geçti. Firmanın bu teknolojiyi "pozitif kampanya" olarak nitelendirmesine rağmen, Tattle kurucu ortağı Tarunima Prabhakar bu durumun "cinin şişeden çıkması" anlamına geldiği ve teknolojinin kötü niyetli aktörler tarafından silah haline getirilebileceği uyarısında bulundu.