Avustralya’daki okullarda yapay zekâ destekli "deepnude" uygulamalarıyla rıza dışı müstehcen içerik üretildiği ve paylaşıldığı bildirildi

Avustralya’daki eğitim kurumlarında, "Undress AI" gibi üretken yapay zekâ araçları kullanılarak öğrencilerin ve öğretmenlerin rıza dışı müstehcen görüntülerinin oluşturulduğu ve dijital platformlarda dolaşıma sokulduğu rapor edildi. Melbourne’deki Bacchus Marsh Grammar okulunda bir öğrencinin, yaklaşık 50 sınıf arkadaşının sosyal medya fotoğraflarını yapay zekâ ile müstehcen içeriklere dönüştürerek Instagram ve Snapchat üzerinden paylaştığı iddiasıyla gözaltına alındığı, olayla ilgili soruşturmanın sürdüğü bildirildi. Benzer bir vakada, Salesian College’da bir öğrencinin bir kadın öğretmeni hedef alan benzer içerikler üretmesi nedeniyle okuldan atıldığı aktarıldı.

Söz konusu sistemlerin, internetten kazınan verilerle eğitildiği ve kullanıcıların yüklediği giyimli fotoğrafları saniyeler içinde gerçekçi çıplak görüntülere dönüştürebildiği belirtilmektedir. Bu araçların "yaş küçültme" gibi ek özellikler sunduğu ve çocuk istismarı materyali üretimi için kötüye kullanılabileceği yönünde ciddi endişeler dile getirilmiştir. Avustralya eSafety Komiserliği, bu tür uygulamaların erişilebilirliğinin ve yayılım hızının öngörülemez bir seviyeye ulaştığını, mağdurlar üzerinde ağır psikolojik travmalara ve sosyal izolasyona yol açtığını vurgulamıştır.

Avustralya hükümetinin, rıza dışı derin sahte (deepfake) müstehcenlik içeren materyallerin oluşturulmasını ve paylaşılmasını yasaklayan, hapis cezasını öngören yeni yasal düzenlemeler üzerinde çalıştığı bildirilmiştir. Undress AI’nın ana şirketinin konuyla ilgili görüşme taleplerine yanıt vermediği belirtilirken; mevcut sistemlerin çocukların korunmasına yönelik yeterli denetim ve engelleme mekanizmalarına sahip olmadığı değerlendirilmektedir. Olayların kapsamı ve yaygınlığı, büyük ölçüde mağdur beyanlarına, okul yönetimlerinin raporlarına ve kolluk kuvvetlerinin yürüttüğü soruşturmalara dayanmaktadır.