Issaquah Lisesi’nde bir öğrencinin yapay zekâ ile sınıf arkadaşlarının sahte müstehcen görüntülerini ürettiği iddia edildi

ABD’nin Washington eyaletindeki Issaquah Lisesi’nde, bir erkek öğrencinin okul etkinliklerinde çekilen fotoğrafları kullanarak kız sınıf arkadaşlarının yapay zekâ destekli sahte müstehcen görüntülerini (deepfake) oluşturduğu ve bu içeriklerin okul çevresinde yayıldığı öne sürüldü. Olayın, öğrencinin kıyafetli fotoğrafları otomatik olarak "çıplaklaştıran" bir yazılım kullanmasıyla gerçekleştiği; genel olarak bu tür vakalarda içeriklerin Snapchat ve Instagram gibi platformlar üzerinden paylaşıldığı aktarıldı.

Mağdur öğrencilerin aileleri, okul yönetiminin kendilerini durumdan zamanında haberdar etmediğini belirterek tepki gösterdi. Okul bölgesi yönetimi ise yaptığı açıklamada, olayla doğrudan bağlantısı teyit edilen tüm ailelerin bilgilendirildiğini ifade etti. Issaquah Polisi’nin olayla ilgili soruşturma başlattığı bildirildi.

Avukat Debbie Silberman gibi hukukçular, mevcut yasaların rıza dışı üretilen sentetik içerikler konusunda yetersiz kaldığına dikkat çekti. New Jersey'deki benzer bir davada savunma avukatları, bu görüntülerin gerçek insan vücudu parçaları içermediği gerekçesiyle suç teşkil etmediğini savundu. FBI ise yapay zekâ ile üretilen gerçekçi çocuk istismarı içeriklerinin yasa dışı olduğu yönünde bir uyarı yayımladı.

Olayın ardından, kızı da aynı okulda öğrenci olan Senatör Mark Mullet'ın girişimiyle Washington eyaletinde reşit olmayanların yapay zekâ ile üretilen müstehcen görüntülerinin paylaşılmasını yasaklayan yasa tasarısı Mart 2024’te yasalaştı. Benzer vakaların Florida ve Illinois gibi eyaletlerde de görüldüğü; Louisiana ve Güney Dakota gibi bölgelerin de yapay zekâ tabanlı cinsel sömürüye karşı cezai yaptırımları hayata geçirdiği belirtildi.