Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Zacatecas'taki Bir Okulda En Az 400 Reşit Olmayan Çocuğun Yapay Zekayla Üretildiği İddia Edilen Cinsel İçerikli Görüntüleri Bildirildiğine Göre İnternet Üzerinden Oluşturuldu ve Satıldı
Zacatecas’taki bir teknik ortaokulda yaklaşık 400 öğrencinin fotoğraflarından yapay zekâ destekli cinselleştirilmiş sentetik içerikler üretildiği ve kimlik bilgileriyle birlikte çevrim içi ortamda yayıldığı iddiası üzerine savcılık soruşturma başlattı.
Olay
Meksika’nın Zacatecas eyaletindeki 1 Numaralı Teknik Ortaokulda, yaklaşık 400 öğrenciye ait fotoğrafın rıza dışında toplanarak yapay zekâ destekli araçlarla cinselleştirilmiş sentetik görüntülere dönüştürüldüğü iddia edildi. Etkilenen kişilerin önemli bölümünün çocuk olduğu bildirildi.
İddialara göre bir erkek öğrenci ve bazı arkadaşları, okul arkadaşlarının fotoğraflarını farklı ortamlarda izinsiz biçimde çekti veya topladı. Bu görüntüler üzerinde dijital değişiklikler yapılarak kişilerin kıyafetleri kaldırılmış gibi gösterildi ve gerçek dışı cinsel içerikler üretildi. İçeriklerin öğrencilerin adları, sınıfları ve şubeleriyle ilişkilendirilerek katalog hâlinde düzenlendiği ve sosyal medya üzerinden dolaşıma sokulduğu öne sürüldü.
Bazı aileler, sentetik görüntülerin para karşılığında paylaşılmış olabileceğini bildirdi. Ancak içeriklerin satıldığı, elde edilen gelir veya dağıtımın kesin kapsamı bağımsız olarak doğrulanmadı. Görüntülerin çevrim içi ortamda yeniden paylaşılabilmesi, etkilenen öğrenciler açısından süreklilik gösteren mahremiyet, itibar ve psikolojik zarar riski oluşturdu.
Öğrenciler ve veliler, durumu haftalar boyunca öğretmenlere ve okul yönetimine bildirdiklerini, ancak yeterli önlem alınmadığını ileri sürdü. Okul yönetiminin olayı gizlemeye veya kapsamını küçültmeye çalıştığı yönündeki iddialar kesinleşmemiş olup idari ve adli incelemelerin konusudur.
Aileler ve öğrenciler, soruşturma ve koruyucu önlem talebiyle protesto düzenledi. Zacatecas Eyalet Başsavcılığı, cinsel mahremiyete karşı suçlar kapsamında soruşturma başlattığını ve etkilenen öğrencilere psikolojik destek ile hukuki yardım sağlandığını açıkladı. Şüphelilerin yaşlarının küçük olması nedeniyle sürecin çocuk adalet sistemi kapsamında yürütüldüğü bildirildi.
Kamuya açık bilgilerde kullanılan yapay zekâ aracının adı, üretilen içeriklerin kesin sayısı, toplam dağıtım ağı ve sorumlular hakkında kesinleşmiş bir mahkûmiyet kararı yer almamaktadır. Vaka, çocuklara ait gerçek görüntülerin yapay zekâ destekli biçimde cinselleştirilmesi ve kimlik bilgileriyle ilişkilendirilerek dağıtılması nedeniyle dijital cinsel şiddet, mahremiyet ihlali ve çocuk güvenliği açısından ciddi bir olay olarak değerlendirilmiştir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?