ABD’li bir askerin gerçek çocuk görüntülerini yapay zekâ ile cinsel istismar içeriğine dönüştürdüğü iddiasıyla yargılandığı bildirildi

Alaska'daki Joint Base Elmendorf-Richardson (JBER) askeri üssünde görevli 34 yaşındaki ABD Ordusu askeri Seth Herrera'nın, çocuk cinsel istismarı materyalleri (CSAM) üretmek, bulundurmak ve nakletmek suçlamalarıyla federal mahkemeye çıkarıldığı bildirildi. İddianameye göre Herrera, sosyal medya platformlarından elde ettiği gerçek çocuk görüntülerini ve videolarını, üretken yapay zekâ araçları ve sohbet botları kullanarak pornografik içeriklere dönüştürmekle suçlanmaktadır.

Adalet Bakanlığı yetkilileri, sanığın iletişimde olduğu reşit olmayan çocukların görsellerini yapay zekâ yardımıyla "başkalaştırarak" (morphing) şiddet içeren istismar materyalleri ürettiğini öne sürdü. Yapılan adli incelemelerde, mağdur edilen bazı çocukların Herrera'nın kızlarından biriyle aynı yaş grubunda olduğu; sanığın dijital cihazlarında Mart 2021 tarihine kadar uzanan on binlerce yasa dışı video ve görsel bulunduğu aktarıldı.

Mahkeme belgelerinde, Herrera'nın bu faaliyetlerini gizlemek için şifreli mesajlaşma uygulamaları kullandığı ve yasa dışı dosyaları telefonunda "hesap makinesi" görünümündeki şifreli bir uygulama içerisinde sakladığı belirtildi. ABD Bölge Yargıcı Kyle Reardon, sanığın internet ortamında izlerini gizleme konusundaki teknik becerisini ve toplum için oluşturduğu tehlikeyi gerekçe göstererek, yargılama süresince tutuklu kalmasına karar verdi.

Olay, üretken yapay zekâ teknolojilerinin kötü niyetli kişilerce istismar içerikleri üretmek amacıyla kullanılmasının yarattığı riskleri bir kez daha gündeme getirdi. Sanığın avukatı olayla ilgili henüz bir yorum yapmazken, Herrera'nın suçlu bulunması halinde 20 yıla kadar hapis cezası alabileceği ifade edildi.