Üretken yapay zekâ araçlarının rıza dışı cinsel içerikli deepfake üretiminde kullanıldığı ve arama motorlarının bu içeriklere erişimi kolaylaştırdığı iddia edildi

Yazar Nicholas Kristof tarafından aktarılan bilgilere göre, Breeze Liu adlı bir kullanıcı, 2020 yılında rızası dışında kaydedilen gerçek bir videosunun yetişkin içerik platformlarında yayımlandığını ve ardından bu görüntünün yapay zekâ araçlarıyla manipüle edilerek internet genelinde 800’den fazla deepfake bağlantısına dönüştürüldüğünü bildirdi. Liu, bu sürecin kendisinde ağır psikolojik travmaya ve intihar düşüncelerine yol açtığını ifade etti. Haberde, çevrimiçi deepfake videolarının %98’inin pornografik içerikli olduğu ve bu içeriklerin %99’unun kadınları ve kız çocuklarını hedef aldığına dair bir çalışmaya atıf yapıldı.

Kristof, Google ve Bing gibi arama motorlarının bu tür rıza dışı içerikleri barındıran sitelere trafik yönlendirdiğini ve bu sitelerden reklam alarak ilgili ekosistemin finansal olarak sürdürülmesine katkıda bulunduğunu öne sürdü. Kristof, teknoloji şirketlerinin intihar gibi hassas konularda gösterdiği sosyal sorumluluğu, rıza dışı cinsel içerikli deepfake içeriklerin engellenmesinde göstermediğini savundu. Ayrıca, ABD’deki mevcut yasal düzenlemelerin (Section 230) teknoloji platformlarını bu tür içeriklerden doğan hukuki sorumluluktan koruduğu ve bunun mağdurların hak arama sürecini zorlaştırdığı belirtildi.

Google ve Bing yetkilileri yaptıkları açıklamalarda, bu tür içeriklerin yarattığı mağduriyetin farkında olduklarını ve mevcut koruma mekanizmalarını geliştirmek için çalıştıklarını ifade ettiler. Ancak şirket temsilcilerinin konuyla ilgili resmi bir mülakat vermekten kaçındıkları bildirildi. Mağdur Breeze Liu’nun, bu tür içerikleri tespit edip kaldırılmasına yardımcı olmak amacıyla yüz tanıma teknolojisi kullanan "Alecto AI" adlı bir platform kurduğu aktarıldı.

Olayda yapay zekâ sistemlerinin doğrudan bir yazılım hatasından ziyade, rıza dışı içerik üretimi ve bu içeriklerin arama motorları aracılığıyla yaygınlaştırılması süreçlerindeki rolü üzerinde durulmaktadır. Teknolojinin hukuki düzenlemelerden daha hızlı ilerlemesinin, denetim ve yaptırım süreçlerinde boşluklar yarattığı değerlendirilmektedir.