Avustralya’da bir özel okulda yaklaşık 50 kız öğrencinin yüzlerinin yapay zekâ ile müstehcen içeriklere yerleştirildiği ve sosyal medyada paylaşıldığı bildirildi

Avustralya’nın Victoria eyaletindeki Bacchus Marsh Grammar adlı özel okulda, 9. ve 12. sınıflar arasındaki yaklaşık 50 kız öğrencinin hedef alındığı bir dijital istismar olayı rapor edildi. Haziran 2024’te kamuoyuna yansıyan bilgilere göre, öğrencilerin sosyal medya hesaplarından alınan yüz fotoğraflarının, üretken yapay zekâ araçları kullanılarak rıza dışı müstehcen görüntülere dönüştürüldüğü belirtildi. Söz konusu sahte içeriklerin Instagram üzerinden yayımlandığı ve öğrenciler arasında Snapchat aracılığıyla paylaşıldığı aktarıldı.

Olayın ardından Victoria Polisi tarafından yürütülen soruşturma kapsamında bir erkek ergenin gözaltına alındığı, ancak daha fazla inceleme yapılmak üzere serbest bırakıldığı açıklandı. Okul yönetimi, görüntülerin kendi öğrencileri tarafından mı yoksa okul dışındaki kişilerce mi üretildiğinin henüz kesin olarak belirlenemediğini ifade etti. Mağdur öğrencilerin ve ailelerinin olay nedeniyle ciddi psikolojik travma yaşadığı; bir velinin, görüntülerin "son derece grafik ve rahatsız edici" doğası nedeniyle çocukların fiziksel rahatsızlık belirtileri gösterdiğini bildirdiği kaydedildi.

Siber güvenlik uzmanı Susan McLean ve akademisyen Emily van der Nagel gibi isimler, yapay zekâ destekli "nudify" uygulamalarına erişimin kolaylaşmasının okullarda yeni bir akran zorbalığı türü oluşturduğuna ve bu durumun temelinde toplumsal cinsiyet temelli kültürel sorunların yattığına dikkat çekmektedir. Avustralya federal hükümetinin, rıza dışı derin sahte (deepfake) müstehcen materyal üretenlere yedi, paylaşanlara ise altı yıla kadar hapis cezası getiren yeni yasal düzenlemeleri bu süreçte yürürlüğe koyduğu hatırlatıldı.

Okul müdürlüğü, etkilenen öğrencilere psikolojik destek sunulduğunu ve sorumluların tespit edilmesi durumunda disiplin süreçlerinin işletileceğini duyurdu. Benzer bir dijital saldırının yakın tarihte Melbourne’deki Salesian College’da da yaşandığı ve bir öğrencinin, bir öğretmenin sahte müstehcen görüntülerini ürettiği gerekçesiyle okuldan uzaklaştırıldığı bilgisi paylaşıldı.