ABD’de bir kişinin, Stable Diffusion adlı yapay zekâ aracını kullanarak binlerce çocuk cinsel istismarı görseli ürettiği ve dağıttığı gerekçesiyle FBI tarafından tutuklandığı bildirildi

ABD Adalet Bakanlığı, Wisconsin eyaletinde yaşayan 42 yaşındaki Steven Anderegg’in, metinden görsel üreten yapay zekâ modeli Stable Diffusion’ı kullanarak çocukların cinsel istismarını içeren binlerce gerçekçi görsel ürettiği, depoladığı ve dağıttığı gerekçesiyle FBI tarafından tutuklandığını açıkladı. Federal büyük jüri tarafından hazırlanan iddianamede, Anderegg’in bilgisayarında yapılan incelemede 13.000’den fazla yapay zekâ üretimi müstehcen görsel tespit edildiği öne sürüldü. Şüphelinin, bu görselleri üretmek için çocuklara yönelik son derece spesifik ve açık metin komutları (prompt) ile yetişkinlerin görsellerde yer almasını engellemek amacıyla "negatif komutlar" kullandığı iddia edildi.

İddianameye göre Anderegg, Instagram üzerinden 15 yaşındaki bir çocukla iletişime geçerek yapay zekâ ile görsel üretme sürecini anlattı ve çocuğa ürettiği müstehcen görselleri gönderdi. Ayrıca, benzer ilgi alanlarına sahip kişilerden oluşan çevrim içi bir topluluk oluşturmak amacıyla Instagram ve Telegram kanallarını kullandığı ileri sürüldü. Olay, Instagram’ın şüphelinin hesabını Kayıp ve Sömürülen Çocuklar Ulusal Merkezine (NCMEC) bildirmesinin ardından kolluk kuvvetlerinin başlattığı soruşturmayla ortaya çıktı. Anderegg’in daha önce eyalet düzeyinde açılan benzer davalarda suçsuz olduğunu beyan ettiği aktarıldı. Federal davada ise suçlu bulunması hâlinde 5 ila 70 yıl arasında hapis cezası alabileceği belirtildi.

Bu davanın, tamamen yapay zekâ tarafından üretilen ve gerçek bir çocuğun görüntüsünü barındırmayan görseller için çocuk cinsel istismarı materyali (CSAM) üretme suçlamasıyla açılan ilk federal davalardan biri olduğu değerlendirilmektedir. Savcılık, yapay zekâ ile üretilmiş olsa dahi bu tür içeriklerin yasal olarak suç teşkil ettiğini vurguladı. Anderegg’in avukatı konuyla ilgili yorum yapmaktan kaçındı. Stable Diffusion modelinin geliştiricisi Stability AI yetkilisi Ella Irwin, söz konusu görsellerin Runway firması tarafından yayımlanan eski bir sürümle üretildiğini savunarak, kendi sistemlerinde kötüye kullanımı önlemek için filtreler uyguladıklarını ancak açık kaynaklı modellerin yerel bilgisayarlarda filtresiz çalıştırılabildiğini belirtti. Runway firması ise konuya ilişkin sorulara yanıt vermedi. İddianamedeki suçlamaların birer iddia niteliğinde olduğu ve şüphelinin suçu mahkemede kanıtlanana kadar masum kabul edildiği hatırlatıldı.