Hindistan’daki 2024 seçimleri öncesinde dijital ajansların rakipleri itibarsızlaştırmak için deepfake operasyonları planladığı iddia edildi

India Today tarafından yürütülen bir gizli soruşturma, Hindistan’daki 2024 Lok Sabha seçimleri öncesinde bazı dijital pazarlama ve halkla ilişkiler firmalarının, siyasi rakipleri itibarsızlaştırmak amacıyla deepfake teknolojisini kullanmayı planladığını ortaya koydu. Noida ve Yeni Delhi merkezli çeşitli ajans yöneticilerinin, yapay zekâ araçları aracılığıyla sahte videolar, manipüle edilmiş ses kayıtları ve hatta müstehcen içerikler üreterek kamuoyunu yönlendirmeyi teklif ettikleri bildirildi.

Soruşturma kapsamında görüşülen ajans yetkililerinin, rakiplerin konuşmalarını ses tonu ve frekansını koruyarak değiştirebildiklerini, yüz değiştirme (face-swap) yöntemiyle dakikalar içinde yüksek çözünürlüklü sahte içerikler oluşturabildiklerini iddia ettikleri aktarıldı. Bu içeriklerin tespit edilmesinin sıradan seçmenler için oldukça güç olduğu ve operasyonların izini gizlemek amacıyla Hindistan yerine yurt dışı kaynaklı (örneğin ABD) IP adreslerinin kullanılmasının planlandığı öne sürüldü.

Görüşmelerde, bu tür hizmetler için aday başına aylık 500.000 Rupi ile 11 adaylık paketler için 3 milyon Rupi arasında değişen ücretler talep edildiği belirtildi. İlgili tarafların, deepfake kullanımının yasal bir suç olduğunun bilincinde olduklarını ancak "kriz yönetimi" ve "negatif propaganda" adı altında bu yöntemlere talebin yüksek olduğunu ifade ettikleri kaydedildi.

Olayla ilgili bilgiler büyük ölçüde gizli kamera kayıtlarına ve ajans yetkililerinin beyanlarına dayanmaktadır. Söz konusu planların ne ölçüde hayata geçirildiği veya seçim sonuçları üzerindeki kesin etkisi bağımsız kaynaklarca bütünüyle doğrulanmamıştır.