San Francisco Şehir Başsavcılığı’nın rıza dışı müstehcen içerik üreten yapay zekâ sitelerine karşı yürüttüğü hukuki mücadelenin sonuç verdiği bildirildi

San Francisco Şehir Başsavcısı David Chiu, Ağustos 2024’te rıza dışı yapay zekâ üretimi müstehcen içerik (deepfake) oluşturan ve dağıtan 16 internet sitesine karşı türünün ilk örneği olan bir dava açtığını duyurdu. İddianamede, söz konusu sitelerin gerçek kadın ve çocukların fotoğraflarını rızaları olmaksızın müstehcen görüntülere dönüştürdüğü; bu durumun eyalet ve federal yasaları, intikam pornografisi ve çocuk istismarı materyalleriyle ilgili düzenlemeleri ihlal ettiği öne sürüldü.

Başsavcılık tarafından paylaşılan bilgilere göre, bu platformlar kullanıcıların gerçek kişilere ait giyinik fotoğrafları yükleyerek gerçekçi çıplak görüntüler elde etmesine olanak tanıyan arayüzler sunmaktadır. 2024 yılının ilk altı ayında, dava edilen bu 16 sitenin toplamda 200 milyondan fazla ziyaret edildiği; bazı platformların özellikle çocukların rıza dışı görüntülerini üretmeye imkân tanıdığı ve bu içeriklerden abonelik ücretleri aracılığıyla kazanç sağladığı aktarıldı. Başsavcı Chiu, bu durumu bir inovasyon değil, yapay zekânın suç teşkil eden amaçlarla kötüye kullanılması ve cinsel istismar olarak nitelendirdi.

Başsavcı Yardımcısı Yvonne Meré, davanın kamuoyuna duyurulmasının ardından yaptığı açıklamada, hedef alınan internet sitelerinden 11 tanesinin faaliyetlerini durdurduğunu ve kapandığını bildirdi. Meré, bu gelişmeyi hukuki bir zafer olarak değerlendirirken, davanın hâlen devam ettiğini belirtti. Olayın arka planında, California’daki bir ortaokulda 16 öğrencinin yapay zekâ ile üretilmiş sahte müstehcen görüntülerinin yayılması ve ünlü isimlerin benzer saldırılara maruz kalması gibi vakaların kamuoyunda yarattığı endişenin etkili olduğu ifade edildi.

Başsavcılık, bu tür içeriklerin şantaj, zorbalık ve aşağılama amacıyla kullanıldığını; mağdurların dijital dünyada kendi görüntüleri üzerindeki kontrolü kaybettiklerini vurguladı. Davalı sitelerin tam listesi ve işletmecilerinin kimlikleri hakkındaki bazı ayrıntılar, devam eden yargı süreci nedeniyle kamuya açık belgelerde kısmen karartılmış olarak yer almaktadır.