İspanya’da bir lise öğrencisinin, sınıf arkadaşlarının yapay zekâ ile üretilmiş müstehcen görüntülerini oluşturup sattığı iddiasıyla soruşturulduğu bildirildi

İspanya Sivil Muhafızları tarafından yapılan açıklamada, Valensiya bölgesindeki bir eğitim kurumunda eğitim gören 17 yaşındaki bir gencin, kadın sınıf arkadaşlarının fotoğraflarını yapay zekâ kullanarak müstehcen içeriklere dönüştürdüğü şüphesiyle soruşturma altına alındığı belirtildi. Olayın, kurumda eğitim gören 16 genç kadının, kendilerine ait yapay zekâ üretimi çıplak görüntülerin sosyal medyada ve internet ortamında dolaşıma girdiğine dair şikayette bulunmasıyla ortaya çıktığı aktarıldı.

Soruşturma kapsamında, Aralık ayında bir mağdurun kendi adına açılmış sahte bir sosyal medya hesabında, kendisini tamamen çıplak gösteren yapay zekâ üretimi video ve fotoğrafların paylaşıldığını ihbar ettiği bildirildi. Emniyet güçlerinin yaptığı incelemede, söz konusu hesapta reşit olmayan birçok kişiye ait manipüle edilmiş görsellerin yer aldığı ve bu içeriklerin orijinal fotoğrafların yapay zekâ araçlarıyla değiştirilmesiyle oluşturulduğu tespit edildi. Şüphelinin, oluşturulan bu sahte içerikleri internet üzerinden satışa sunduğu da iddialar arasında yer almaktadır.

Yetkililer, sahte hesapların oluşturulmasında kullanılan IP adreslerinin takibi sonucunda 17 yaşındaki şüphelinin kimliğine ulaşıldığını açıkladı. Şüphelinin "küçüklerin ahlakını bozma" suçlamasıyla soruşturulduğu ifade edildi. İspanya hükümetinin, rıza dışı üretilen bu tür yapay zekâ içeriklerini suç kapsamına alacak bir yasa tasarısını Mart ayında gündeme getirdiği ancak ilgili tasarının henüz parlamentodan geçmediği not edildi.

Benzer bir olayın Eylül 2023’te Extremadura bölgesinde yaşandığı ve bu olayda 15 reşit olmayan gencin, sınıf arkadaşlarının sahte müstehcen görüntülerini üretmekten bir yıl denetimli serbestlik cezası aldığı hatırlatıldı. Mevcut olayda, sistemlerin kötü niyetli kullanımı sonucunda mağdurların kişilik haklarının ve mahremiyetinin ihlal edildiği değerlendirilmektedir.