Beverly Hills’te ortaokul öğrencilerinin yapay zekâ kullanarak sınıf arkadaşlarının sahte müstehcen görüntülerini ürettiği ve paylaştığı bildirildi

Beverly Hills Birleşik Okul Bölgesi (BHUSD) yetkilileri, Şubat 2024’te Beverly Vista Ortaokulu öğrencilerinin, sınıf arkadaşlarının yüzlerini müstehcen vücutlara yerleştirerek sahte görüntüler oluşturduğunu ve bu içerikleri dağıttığını duyurdu. Okul bölgesi müfettişi Michael Bregy, velilere gönderdiği mektupta durumu yapay zekânın "etik dışı ve rahatsız edici bir kullanımı" olarak nitelendirdi. Okul yönetiminin, söz konusu içeriklerin yapay zekâ ile üretildiğini hangi yöntemlerle tespit ettiği veya hangi spesifik uygulamaların kullanıldığına dair ayrıntılı bilgi paylaşılmadı.

Beverly Hills Polis Departmanı, olayla ilgili bir rapor tutulduğunu ve "suç teşkil etmeyen" bir inceleme başlatıldığını açıkladı. İncelemenin reşit olmayan kişileri kapsaması nedeniyle polis tarafından daha fazla detay verilmedi. Okul yönetimi ise olaya karışan öğrencilerin soruşturma süresince okuldan uzaklaştırıldığını; sorumluluk düzeylerine göre okuldan ihraç edilmelerine kadar varabilecek disiplin cezalarının değerlendirildiğini bildirdi.

Siber Sivil Haklar Girişimi Başkanı Mary Anne Franks gibi hukuk uzmanları, Kaliforniya eyalet yasalarının rıza dışı üretilen müstehcen deepfake içerikler için tazminat davası açma hakkı tanıyabileceğini ancak mevcut olaydaki görüntülerin içeriği tam bilinmediği için yasaların bu durumu kapsayıp kapsamadığının henüz belirsiz olduğunu belirtmektedir. Ayrıca federal düzeyde bu tür eylemleri doğrudan suç sayan kapsamlı bir yasal düzenlemenin eksikliği vurgulanmaktadır. Uzmanlar, dijital ortamda paylaşılan bu tür içeriklerin tamamen silinmesinin zorluğu nedeniyle, mağdur öğrencilerin uzun vadeli itibar zararı yaşayabileceğine dikkat çekmektedir.

Olay, eğitim kurumlarında yapay zekâ araçlarının kötüye kullanımı konusundaki tartışmaları yeniden gündeme getirmiştir. Okul bölgesi yetkilileri, federal ve eyalet düzeyindeki hükümetlere, çocukları düzenlenmemiş yapay zekâ teknolojilerinin tehlikelerinden korumak için acil yasal önlemler alınması ve teknolojinin kötüye kullanımını engelleyecek düzenlemeler yapılması çağrısında bulunmuştur.