TikTok’ta Le Pen ailesi üyelerini taklit eden deepfake hesapların siyasi propaganda amacıyla kullanıldığı bildirildi

2024 Avrupa Parlamentosu seçimleri öncesinde Fransa’da, aşırı sağcı siyasetçi Marine Le Pen’in ailesine mensupmuş gibi gösterilen kurgusal karakterlerin yer aldığı bir dizi TikTok hesabının viral hale geldiği bildirildi. "Amandine Le Pen", "Lena Maréchal Lepen" ve "Chloé Le Pen" gibi isimlerle açılan bu hesapların, gerçekte var olmayan kişileri yapay zekâ yardımıyla oluşturulmuş "deepfake" videolar aracılığıyla sunduğu tespit edildi. Söz konusu videolarda, gerçek içerik üreticilerinin görüntülerine Marine Le Pen ve Marion Maréchal’in gençlik fotoğraflarının eklendiği; ancak ağız hareketlerindeki uyumsuzluklar gibi görsel tutarsızlıkların mevcut olduğu belirtildi.

Bu hesapların, Ulusal Birlik (RN) ve Reconquête! gibi partileri destekleyen imalı içerikler paylaştığı, milyonlarca izlenmeye ulaştığı ve bazı videolarda göçmenlere yönelik alaycı ifadeler ile siyasi mesajlara yer verildiği aktarıldı. Ayrıca, profillerde yer alan bağlantılar aracılığıyla takipçilerden "kahve ısmarlama" siteleri üzerinden maddi bağış toplandığı gözlemlendi. Hesaplardan birinin isimsiz yöneticisinin, Fransız medyasına yaptığı açıklamada bu faaliyetin siyasi bir amaç taşımadığını ve yalnızca bir "sosyal deney" olduğunu iddia ettiği bildirilmiştir.

Olayın ardından ilgili siyasi figürler ve partiler, bu içeriklerin "kötü niyetli kullanım" olduğunu belirterek düzenleme çağrısında bulundu. TikTok, raporlanan hesapların bir kısmını platformdan kaldırdı. Bu durumun, Avrupa Birliği Dijital Hizmetler Yasası (DSA) kapsamında platformların içerik moderasyonu yükümlülüklerini ve üretken yapay zekânın seçim süreçlerindeki manipülasyon potansiyelini yeniden tartışmaya açtığı değerlendirilmektedir.