Hindistan seçimlerinde hayatını kaybeden siyasi liderlerin deepfake teknolojisiyle "diriltilerek" kampanya süreçlerinde kullanıldığı bildirildi

2024 Hindistan genel seçimleri öncesinde, özellikle Tamil Nadu eyaletinde, hayatını kaybetmiş ikonik siyasi figürlerin yapay zekâ ile oluşturulan dijital avatarlarının seçim kampanyalarında kullanıldığı aktarıldı. 2016 yılında vefat eden J. Jayalalithaa ve 2018 yılında vefat eden M. Karunanidhi gibi liderlerin ses ve görüntülerinin, siyasi partiler tarafından seçmenleri etkilemek amacıyla yeniden üretildiği bildirildi.

Karunanidhi’nin dijital kopyasının, oğlu ve mevcut eyalet başkanı M. K. Stalin’i öven konuşmalar yaptığı; Jayalalithaa’nın ise mevcut hükümeti eleştiren sesli mesajlarla seçmenlere seslendiği iddia edilen içeriklerin paylaşıldığı belirtildi. Muonium gibi teknoloji firmaları, bu yöntemin karizmatik liderlerin popülaritesinden faydalanmak için düşük maliyetli ve dikkat çekici "yeni bir yol" sunduğunu ifade etti. İçeriklerin bir kısmının yapay zekâ üretimi olduğuna dair etiketler taşıdığı ancak görsel kalitedeki tutarsızlıkların (dudak senkronizasyonu vb.) her zaman fark edilemeyebileceği not edildi.

Olay, etik ve hukuki tartışmaları da beraberinde getirmiştir. Mozilla Vakfı'ndan Amber Sinha gibi isimler, hayatını kaybetmiş kişilere hayattayken dile getirmedikleri görüşlerin atfedilmesinin etik sorunlarına değinirken; Hindistan İletişim Bakanı Ashwini Vaishnaw, deepfake teknolojisinin sosyal kurumlar ve demokrasi üzerinde "ciddi bir tehdit" oluşturabileceği uyarısında bulundu. Söz konusu teknolojinin yalnızca ölmüş liderleri canlandırmak için değil, aynı zamanda rakipleri hicvetmek veya yanıltıcı videolar oluşturmak için de kullanıldığı, bu durumun bilgi bütünlüğüne zarar verebileceği öne sürülmektedir.