Yaklaşık 4.000 ünlü ismin rıza dışı üretilen yapay zekâ kaynaklı müstehcen içeriklerin mağduru olduğu bildirildi

Channel 4 News tarafından gerçekleştirilen bir inceleme, en çok ziyaret edilen beş deepfake sitesinde yaklaşık 4.000 ünlü ismin rıza dışı oluşturulmuş müstehcen içeriklerinin yer aldığını ortaya koydu. Bu kişilerin 255'inin Birleşik Krallık vatandaşı olduğu; aralarında kadın oyuncular, televizyon yıldızları, müzisyenler ve YouTuber'ların bulunduğu aktarıldı. İnceleme konusu olan beş sitenin üç ay gibi kısa bir sürede toplam 100 milyon görüntülemeye ulaştığı bildirildi.

Mağdurlar arasında yer alan haber sunucusu Cathy Newman, durumu bir "ihlal" olarak nitelendirerek, kimliği belirsiz kişilerin kendisinin yapay zekâ tarafından üretilmiş sahte bir versiyonunu izlemesini "korkutucu" bulduğunu ifade etti. Veriler, deepfake içerik üretimindeki dramatik artışı da gözler önüne serdi; 2023'ün ilk dokuz ayında en popüler 40 siteye 143.733 yeni deepfake videosu yüklendiği, bu rakamın önceki tüm yılların toplamından daha fazla olduğu kaydedildi.

Birleşik Krallık'ta yürürlüğe giren Çevrimiçi Güvenlik Yasası (Online Safety Act) uyarınca, bu tür içeriklerin rıza dışı paylaşılmasının illegal kabul edildiği ancak içeriklerin üretilmesinin henüz suç kapsamına alınmadığı belirtildi. Google, etkilenen kişilerin bu tür içerikleri içeren sayfaları arama sonuçlarından kaldırmasına yardımcı olacak araçlar ve koruma önlemleri geliştirdiğini açıkladı. Meta ise yapay zekâ ile rıza dışı çıplak görüntüler oluşturan servislerin reklamlarını ve bu reklamların arkasındaki hesapları platformlarından kaldırdığını bildirdi.