Twitch yayıncılarının rıza dışı üretilen müstehcen deepfake içeriklerle hedef alındığı ve bu durumun ciddi psikolojik zararlara yol açtığı bildirildi

Ocak 2023’te, popüler Twitch yayıncısı Brandon Ewing’in (Atrioc) bir canlı yayın sırasında rıza dışı müstehcen içerikler barındıran bir deepfake sitesini tarayıcı sekmelerinde açık unutmasıyla başlayan süreçte; QTCinderella, Sweet Anita, Maya Higa ve Pokimane gibi çok sayıda kadın yayıncının hedef alındığı ortaya çıktı. Yapay zekâ araçları kullanılarak hazırlanan bu içeriklerin, mağdurların yüzlerini rızaları olmaksızın pornografik görüntülere yerleştirdiği aktarıldı.

Mağdur yayıncılar, söz konusu içeriklerin gerçekçi yapısı nedeniyle ciddi psikolojik travma, vücut dismorfisi ve sistematik tacizle karşı karşıya kaldıklarını ifade etti. Özellikle QTCinderella ve Sweet Anita, bu durumun cinsel saldırı travmasına benzer etkiler yarattığını ve internet ortamında nesneleştirilmelerinin kalıcı itibar zararına yol açtığını belirtti. Olayın ardından bazı içeriklerin kaldırılması için yasal girişimlerde bulunulduğu ancak mevcut hukuk sistemindeki boşluklar nedeniyle içerik üreticilerine karşı dava açılmasının güç olduğu bildirildi.

Bilgisayar bilimleri uzmanı Hany Farid ve mağdur avukatı Ryan Morrison gibi isimler, ABD'nin sadece birkaç eyaletinde (California, Virginia, Texas, New York) ve Birleşik Krallık'ta deepfake içeriklere yönelik spesifik yasaların bulunduğunu veya hazırlık aşamasında olduğunu, bu durumun yasal takibi zorlaştırdığını belirtmektedir. Olayda adı geçen Brandon Ewing özür dileyerek mağdurların yasal masraflarını ve içerik kaldırma ücretlerini üstlenmeyi teklif etmiş; ancak mağdurlar bu özrün verilen zararı telafi etmediğini ve dijital ortamda yayılan içeriklerin tamamen silinmesinin teknik olarak mümkün olmadığını vurgulamıştır.