Tazmanya’daki Bir Okulda 21 Kız Öğrencinin Görüntülerinin Yapay Zekâ Üretimi Müstehcen Deepfake İçeriklerde Kullanıldığı Bildirildi

Avustralya’nın Tazmanya eyaletinde bulunan The Friends School’da 21 kız öğrencinin fotoğraflarının, yapay zekâ kullanılarak müstehcen deepfake içeriklere dönüştürüldüğü bildirildi. İçeriklerin öğrenciler tarafından kişisel cihazlarda ve okul saatleri dışında oluşturulduğu belirtildi.

Okul yönetimi, polis ve uzmanlardan aldığı tavsiyelere dayandığını söyleyerek ebeveynlere, görüntülerinin deepfake içeriklerde kullanıldığı belirlenen kızlarına durumu bildirmemelerini önerdi. Ancak bazı ebeveynler bu yaklaşımı kabul etmeyerek çocuklarını olay hakkında bilgilendirdi.

Öğrencilerin, diğer mağdurların olaydan haberdar edilip edilmediğini bilmemeleri nedeniyle kendilerini susturulmuş ve yeterince desteklenmemiş hissettikleri aktarıldı. Ebeveynler de okulun mağdurlara bilgi verilmemesi yönündeki tutumunu eleştirdi.

Okul yönetimi, içeriklerin okul dışında ve kişisel cihazlar kullanılarak oluşturulması nedeniyle sorunun yalnızca okul tarafından çözülemeyeceğini açıkladı. Bununla birlikte olayın okul topluluğunda ciddi rahatsızlığa yol açtığı ve mağdur öğrenciler üzerinde utanç, öfke ve korku gibi etkiler oluşturduğu bildirildi.

Avustralya eSafety Komiseri Julie Inman Grant, olayın daha geniş bir dijital güvenlik krizinin parçası olduğunu belirtti. Komiserlik verilerine göre çevrim içi deepfake içeriklerde 2019’dan bu yana yıllık bazda yüzde 550 oranında artış yaşandı; bu içeriklerin yüzde 98’ini pornografik videolar, hedeflerin yüzde 99’unu ise kadınlar ve kız çocukları oluşturdu.

Bu tür içerikleri üretmek için kullanılan uygulamaların kolay kullanılabildiği, düşük ücretle veya ücretsiz olarak erişilebilir olduğu belirtildi. Uygulamaların çoğunlukla sosyal medyada paylaşılan özçekimler veya okul fotoğrafları gibi gerçek görüntüleri kaynak olarak kullandığı aktarıldı.