Bobbi Althoff’un rıza dışı üretilen müstehcen yapay zekâ videolarının X platformunda hızla yayıldığı bildirildi

Şubat 2024’te, podcast yayıncısı Bobbi Althoff’un rıza dışı üretilmiş, cinsel içerikli yapay zekâ videolarının X platformunda milyonlarca kullanıcıya ulaştığı bildirildi. Althoff, 21 Şubat 2024’te Instagram üzerinden yaptığı açıklamada, ilgili görüntülerin %100 yapay zekâ tarafından üretildiğini ve kendisiyle bir ilgisi olmadığını belirterek durumu "şoke edici" olarak nitelendirdi. Yayıncının, isminin platformda "trending" (gündem) listesine girmesi üzerine durumdan haberdar olduğu ve başlangıçta bunun bot hesaplardan kaynaklanan bir hata olduğunu düşündüğü aktarıldı.

Araştırmacı Genevieve Oh tarafından paylaşılan verilere göre, söz konusu videoların yapay zekâ odaklı pornografi sitelerinde yaklaşık 178.000 izlenmeye ulaştığı, ancak X platformuna taşındıktan sonra ilk 24 saat içinde 6,5 milyondan fazla görüntüleme aldığı belirtildi. Hatta tek bir gönderinin 20 milyon izlenmeyi geçtiği rapor edildi. Videoların yayılımında, kullanıcıların "beğeni ve yorum karşılığında sızıntı videoyu paylaşma" vaadiyle yürüttüğü "etkileşim çiftçiliği" (engagement farming) yönteminin etkili olduğu öne sürüldü. Bazı mavi tikli (Premium) hesapların bu içerikler üzerinden etkileşim artırarak reklam geliri elde etmeyi amaçlamış olabileceği değerlendirilmektedir.

Olay, X platformunun içerik denetim politikaları ve "rıza dışı çıplaklık" kurallarının uygulanabilirliği konusundaki tartışmaları yeniden gündeme getirdi. Platformun, daha önce Taylor Swift olayında olduğu gibi müdahalede yavaş kaldığı; bazı gönderilerin 24 saatten fazla yayında kaldığı ve "Topluluk Notları" gibi mekanizmaların yayılımı durdurmada yetersiz olduğu iddia edildi. Şirketin içerik denetim ekiplerindeki küçülmenin ve platform sahibi Elon Musk’ın denetim mekanizmalarına yönelik serbestlik yanlısı tutumunun, bu tür sentetik içeriklerin viral hale gelmesine zemin hazırlamış olabileceği savunulmaktadır.

X platformu olayla ilgili resmi bir açıklama yapmamış olsa da, bazı gönderilerin şikayetler üzerine kaldırıldığı bildirilmiştir. Ancak araştırmacılar, içeriklerin platformdan tamamen temizlenmesinin zaman aldığını ve bu süreçte milyonlarca kullanıcıya ulaştığını vurgulamaktadır.