TikTok’ta deepfake ve yapay zekâ üretimi sahte etkileyiciler aracılığıyla yanıltıcı sağlık ürünü reklamları yapıldığı bildirildi

Media Matters tarafından yayımlanan bir araştırmada, TikTok platformunda faaliyet gösteren bir dolandırıcılık ağının, deepfake teknolojisi ve yapay zekâ tarafından üretildiği değerlendirilen sahte "influencer" (etkileyici) figürlerini kullanarak kullanıcılara sağlık ve güzellik ürünleri pazarladığı öne sürüldü. Söz konusu hesapların, "bütünsel sağlık" gibi popüler anahtar kelimeleri içeren kullanıcı adları seçtiği ve benzer içerik formatlarını kullanarak organize bir ağın parçası gibi hareket ettikleri görüldü.

İncelemede, bu hesapların dijital karakterlere karmaşık özgeçmişler atfettiği aktarıldı. Örneğin, bir hesabın kullandığı dijital figürün farklı videolarda ünlü bir cerrahın eşi, eski bir model veya bir tıp doktoru olarak tanıtıldığı; ancak yapılan tersine görsel aramaların bu görüntülerin büyük olasılıkla yapay zekâ tarafından üretildiğini gösterdiği belirtildi. Bu karakterlerin, saç uzattığı iddia edilen ancak bilimsel araştırmalarla desteklenmeyen "batana yağı" gibi ürünler için kişisel tanıklıklar sunduğu ve kullanıcıları biyografilerindeki bağlantılara yönlendirdiği bildirildi.

Dolandırıcıların ayrıca, kısırlık ve polikistik over sendromu (PKOS) gibi hassas sağlık sorunları yaşayan kadınları hedef alan "hikâye anlatımı" (storytime) formatındaki slayt gösterilerini kullandığı görüldü. Bu içeriklerde, yapay zekâ ile üretildiği değerlendirilen duygusal hastane görselleri eşliğinde çeşitli takviye edici gıdaların çözüm olarak sunulduğu ifade edildi. Benzer şekilde, ünlü kişilerin ve dublörlerinin görsellerinin de yapay zekâ üretimi içeriklerle harmanlanarak zayıflama ürünlerini pazarlamak amacıyla kullanıldığı aktarıldı.

Raporun yayımlanmasının ardından, 10 Mart 2025 itibarıyla TikTok’un incelemeye konu olan hesapları platformdan kaldırdığı görüldü. 2021 yılında gerçek videoların manipüle edilmesiyle başlayan bu tür yöntemlerin, günümüzde daha ikna edici yapay zekâ karakterlerine dönüşerek daha karmaşık bir yapıya büründüğü gözlemlenmektedir. Olay, üretken yapay zekânın tüketiciyi yanıltma amacıyla kullanımındaki artan teknik yetkinliği ortaya koymaktadır.