Sosyal medya içerik üreticilerinin kimliklerinin yapay zekâ ile kopyalanarak yanıltıcı reklam ve propaganda faaliyetlerinde kullanıldığı bildirildi

Aralarında Michel Janse, Olga Loiek ve Shadé Zahrai’nin de bulunduğu çeşitli sosyal medya içerik üreticilerinin kişisel görüntü ve seslerinin, rızaları dışında üretken yapay zekâ araçlarıyla kopyalanarak kötüye kullanıldığı saptandı. Washington Post ve New York Times tarafından aktarılan raporlara göre; HeyGen ve Eleven Labs gibi şirketlerin sunduğu teknolojiler aracılığıyla oluşturulan "deepfake" içeriklerin, cinsel sağlık takviyesi reklamlarından siyasi propaganda videolarına kadar pek çok yanıltıcı içerikte kullanıldığı bildirildi.

Vaka kayıtlarına göre, içerik üreticisi Michel Janse’nin gerçek videolarından alınan kesitlerin yapay zekâ ile manipüle edilerek YouTube üzerinden cinsel işlev bozukluğu ilaçlarının reklamında kullanıldığı saptandı. Bir diğer vakada, Ukraynalı üniversite öğrencisi Olga Loiek’in görüntüsünün Çin merkezli sosyal medya platformlarında (Douyin ve Xiaohongshu) "Natasha" adlı sahte bir karaktere dönüştürüldüğü belirlendi. Loiek’in hiç bilmediği Mandarin dilinde konuşan bu dijital kopyasının, Rusya lehine siyasi propaganda yaptığı ve ticari ürünlerin satışını gerçekleştirdiği aktarıldı. Benzer şekilde, Avustralyalı Shadé Zahrai’nin de görüntülerinin manipüle edilerek Çinli erkeklere yönelik "Rus eş" temalı içeriklerde kullanıldığı, ilgili hesap sahiplerince de teyit edildi.

Olaylarda adı geçen teknoloji sağlayıcıları HeyGen ve Eleven Labs’in konuyla ilgili yorum taleplerine yanıt vermediği bildirildi. YouTube ve Meta gibi platformların bu tür içerikleri kaldırmaya yönelik politikalar yürüttüğü belirtilse de, hukukçular ve siber güvenlik uzmanları; kötü niyetli kişilerin farklı ülkelerin yargı yetki alanlarını kullanması ve mevcut yasal düzenlemelerin yetersizliği nedeniyle sürecin zorlaştığını vurgulamaktadır. Mağdurlar, kimliklerinin bu şekilde ele geçirilmesinin derin bir kişisel ihlal duygusuna ve ciddi itibar zararına yol açtığını ifade etti.

Söz konusu içeriklerin bir kısmının ticari amaçlı (tuz, sabun, takviye edici gıda satışı), bir kısmının ise milliyetçi duyguları tetiklemeye yönelik siyasi manipülasyon odaklı olduğu gözlemlenmiştir. Yapay zekâ araçlarının erişilebilirliğinin artmasıyla birlikte, bu tür kimlik hırsızlığı vakalarının sadece tanınmış kişilerle sınırlı kalmayıp geniş kitleleri etkileyebileceği öngörülmektedir.