Taylor Swift’in rıza dışı üretilen müstehcen yapay zekâ görüntülerinin X platformunda yayılması ve denetim süreçlerindeki aksaklıklar

Ocak 2024’ün son haftasında, sanatçı Taylor Swift’in rıza dışı üretilmiş müstehcen yapay zekâ görüntülerinin X (eski adıyla Twitter) platformunda geniş çaplı bir yayılım gösterdiği bildirildi. Graphika ve 404 Media gibi araştırma kuruluşlarının raporlarına göre, söz konusu içeriklerin temel kaynağının 4chan ve Telegram üzerindeki topluluklar olduğu; bu gruplardaki kullanıcıların Microsoft Designer ve OpenAI’ın DALL-E gibi araçlarındaki güvenlik filtrelerini aşmaya yönelik yöntemler geliştirdiği öne sürüldü.

X platformunda paylaşılan görsellerden birinin, yayından kaldırılmadan önceki 17 saatlik sürede 45 milyondan fazla görüntüleme ve on binlerce etkileşim aldığı aktarıldı. Platformun içerik denetim mekanizmalarının bu tür içerikleri tespit etmekte ve yayılımını durdurmakta yetersiz kaldığı iddia edildi. Hatta bazı bölgelerde "Taylor Swift AI" ifadesinin platformun "gündemdekiler" listesine girmesinin, zararlı içeriklerin daha geniş kitlelere ulaşmasına katkıda bulunduğu değerlendirildi.

Olayın ardından X yönetimi, güvenlik gerekçesiyle "Taylor Swift" aramalarını geçici olarak engellediğini ve ihlalde bulunan hesaplara müdahale edildiğini açıkladı. Microsoft CEO’su Satya Nadella, durumu "endişe verici ve korkunç" olarak nitelendirerek yapay zekâ koruma önlemlerinin belirlenmesinde hâlâ yapılacak çok şey olduğunu ve bu konuda hızlı hareket edilmesi gerektiğini belirtti. OpenAI ise yaptığı açıklamada görsellerin kendi araçlarıyla üretilmediğini belirterek, kamuya mal olmuş kişilerin rıza dışı görüntülerinin oluşturulmasını engelleyen katı kuralları olduğunu vurguladı.

Beyaz Saray ve çeşitli ABD’li milletvekilleri, olayın ardından rıza dışı deepfake içeriklerin suç kapsamına alınması için yasal düzenleme çağrısında bulundu. Sanatçının hayran kitlesi ise platformdaki sahte içerikleri maskelemek amacıyla sanatçının gerçek performans videolarını içeren paylaşımlarla bir karşı kampanya yürüttü. Sistemsel bir hata veya doğrudan bir güvenlik açığından ziyade, mevcut yapay zekâ modellerinin kötü niyetli manipülasyonlarla suistimal edilmesi ve sosyal medya platformlarının kriz anındaki denetim kapasitesi tartışılmaktadır.