Grok Imagine’ın açık talep bulunmadan Taylor Swift’i cinselleştiren rıza dışı deepfake video oluşturduğu bildirildi

The Verge tarafından 5 Ağustos 2025’te yayımlanan ürün testinde, xAI’ın Grok Imagine görüntü ve video üretim aracının Taylor Swift’i tasvir eden rıza dışı cinselleştirilmiş içerik oluşturduğu bildirildi. Muhabir Jess Weatherbed, Taylor Swift’in Coachella’da kutlama yaptığını gösteren bir sahne talep etti ve oluşturulan görüntülerden birini “Spicy” modu aracılığıyla videoya dönüştürdü. Test isteminde çıplaklık, soyunma veya cinsel içerik açıkça talep edilmedi.

Sistem ilk aşamada Swift’e benzeyen, çoğunlukla açık kıyafetli 30’dan fazla görüntü üretti. “Spicy” video modu seçildiğinde ise görüntülerden biri, Swift’i temsil eden karakterin kıyafetlerini çıkardığı ve iç çamaşırıyla dans ettiği kısa bir videoya dönüştürüldü. Oluşturulan kişinin benzerliği kusursuz olmamakla birlikte Taylor Swift olarak tanınabilir düzeydeydi. Olay kontrollü bir gazetecilik testi kapsamında gerçekleşmiş olup içeriğin Swift’in katılımı veya rızasıyla oluşturulduğuna ilişkin herhangi bir bulgu bulunmamaktadır.

Aynı testte doğrudan Taylor Swift’in veya başka gerçek kişilerin çıplak görüntülerini oluşturma taleplerinin sistem tarafından boş sonuçlarla engellendiği bildirildi. Bununla birlikte “Spicy” ön ayarının, açık bir cinsel içerik talebi bulunmadan benzer bir sonucu üretmesi, istem düzeyindeki filtreler ile video dönüştürme aşamasındaki güvenlik kontrolleri arasında tutarsızlık bulunduğuna işaret etti. Grok Imagine bu dönemde “Custom”, “Normal”, “Fun” ve “Spicy” adlı dört video modu sunuyordu.

xAI’ın kabul edilebilir kullanım politikası, gerçek kişilerin görüntülerinin rızaları dışında çıplaklaştırılmasını, cinsel bağlama yerleştirilmesini veya pornografik biçimde tasvir edilmesini yasaklamaktadır. Bu nedenle testte üretilen içerik, şirketin yayımlanmış kullanım kurallarıyla uyumsuz görünmektedir. Ancak xAI’ın olay sonrasında belirli bir teknik düzeltme yaptığına veya bu test hakkında ayrıntılı bir açıklama yayımladığına ilişkin doğrulanmış bilgi bulunmamaktadır.

Kaynak açıklamasında Grok Imagine’ın Ocak 2025’te yayımlandığı belirtilse de araç, söz konusu özellikleriyle Ağustos 2025’in başında kullanıma sunuldu. Olay, üretken video sistemlerindeki hazır yetişkin içerik modlarının gerçek kişilerin kimliklerini koruyan güvenlik önlemlerini istem dışı biçimde aşabilmesi riskini ortaya koydu.