Noelle Martin’in rızası dışında üretilen deepfake içeriklerin kişisel güvenliğini ve itibarını tehdit ettiği bildirildi

Avustralyalı aktivist Noelle Martin, 2012 yılında fotoğraflarının rızası dışında montajlanarak müstehcen hareketsiz görüntülerde kullanıldığını, 2017 yılından itibaren ise bu durumun yapay zekâ destekli deepfake videolarına dönüştüğünü bildirdi. Martin’in anlatımına göre, sosyal medya hesaplarından alınan yüz görüntüleri, yapay zekâ algoritmaları aracılığıyla yetişkin içerikli videolara yerleştirilmiş ve bu içerikler Martin’in gerçek kimlik bilgileri, sosyal medya etiketleri ve hatta ev adresiyle birlikte çeşitli platformlarda paylaşılmıştır.

Olayda kullanılan teknolojinin, başlangıçta karmaşık yazılımlar gerektirirken zamanla kullanıcı dostu uygulamalar (FakeApp, Zao vb.) sayesinde geniş kitlelerce erişilebilir hale geldiği değerlendirilmektedir. Martin, ilgili içeriklerin kaldırılması için platform yöneticileriyle iletişime geçtiğini ancak bazı durumlarda şantajla (çıplak fotoğraf talebi gibi) karşılaştığını veya içeriklerin silindikten kısa süre sonra tekrar yüklendiğini ifade etti. Reddit ve Twitter gibi platformların 2018 yılında rıza dışı sentetik müstehcenliği yasakladığı ancak bu tür içeriklerin internetin genelinde yayılmaya devam ettiği belirtildi.

Martin, olayın yaşandığı ilk yıllarda Avustralya hukukunda bu tür dijital istismarları kapsayan spesifik yasaların bulunmaması nedeniyle kolluk kuvvetlerinden yeterli destek alamadığını bildirdi. Mağdurun anlatımına göre, yapay zekâ tarafından üretilen videoların yüksek gerçekçiliği, dijital materyallerin kanıt niteliğine yönelik güveni sarsmakta ve bireylerin itibarını zedelemektedir. Olay, yapay zekâ araçlarının rıza dışı görüntü üretimi yoluyla kişisel güvenliği ve mahremiyeti ihlal etme potansiyelini ortaya koymaktadır.