Kristen Bell ve Noelle Martin’in rıza dışı üretilen deepfake müstehcen içeriklerde hedef alındığı bildirildi

Amerikalı oyuncu Kristen Bell, Vox ve Independent tarafından aktarılan beyanlarında, rızası dışında üretilen ve yüzünün müstehcen içerikli videolara yerleştirildiği "deepfake" içeriklerin mağduru olduğunu açıkladı. Bell, durumdan oyuncu Ashton Kutcher’ın eşi Dax Shepard’ı uyarması üzerine haberdar olduğunu; kendi yüzünün ve fiziksel kimliğinin kontrolü dışında bu tür içeriklerde kullanılmasını "istismar" olarak nitelendirdiğini belirtti. Oyuncu, içeriklerin "sahte" olarak etiketlenmiş olsa dahi rıza unsurunun bulunmamasının durumu kabul edilemez kıldığını ifade etti.

Benzer bir dijital istismar vakasının Avustralya’da yaşayan hukuk mezunu Noelle Martin tarafından da deneyimlendiği aktarıldı. Martin, sosyal medya hesaplarında paylaştığı kişisel fotoğraflarının kötü niyetli kişilerce alınarak önce fotomontajla çıplak görüntülere, ardından ise deepfake videolara dönüştürüldüğünü bildirdi. Martin, bu teknolojinin bireyler üzerindeki psikolojik ve sosyal etkisinin gelecekteki bir varsayım değil, halihazırda yaşanan ve acil müdahale gerektiren bir tehdit olduğunu vurguladı.

Araştırma grubu Deeptrace’in verilerine dayandırılan raporlarda, internetteki deepfake içeriklerin %96’sının müstehcen nitelikte olduğu ve bu içeriklerin neredeyse tamamının kadınları hedef aldığı belirtildi. Deepfake teknolojisinin, basit yüz değiştirme araçlarından farklı olarak bir kişinin yüz hatlarını başka birinin mimikleriyle canlandırabilmesi nedeniyle, mağdurların kendi fiziksel ifadeleri üzerindeki kontrolünü bütünüyle kaybetmesine yol açtığı değerlendirilmektedir.

Olayın kamuoyuna yansımasının ardından Pornhub, Twitter ve Reddit gibi büyük platformların, ünlülerin deepfake içeriklerinin yüklenmesine yönelik çeşitli yasaklama ve içerik denetimi kuralları getirdiği bildirilmiştir. Ancak dijital materyallerin yayılım hızı ve anonim üretim imkânları nedeniyle, bu tür içeriklerin tamamen engellenmesinin önündeki zorluklar devam etmektedir.