Winnipeg’de kız öğrencilerin yapay zekâ ile üretilen sahte müstehcen fotoğraflarının paylaşıldığı ancak yasal süreçlerin işletilemediği bildirildi

Kanada’nın Winnipeg kentindeki Collège Béliveau adlı ortaöğretim kurumunda, Aralık 2023’te kız öğrencilere ait yapay zekâ ile üretilmiş sahte müstehcen fotoğrafların internet ortamında yayıldığı bildirildi. Okul yönetimi ve polis tarafından yapılan incelemelerde, öğrencilerin kamuya açık sosyal medya hesaplarından alınan orijinal fotoğrafların, üretken yapay zekâ araçları kullanılarak rıza dışı müstehcen içeriklere dönüştürüldüğü tespit edildi. Öğrenciler arasında 300’e yakın sahte fotoğrafın dolaşıma girdiği öne sürülse de, mağdur sayısı ve görüntü miktarı resmi makamlarca net bir rakamla doğrulanmadı.

Winnipeg Polis Teşkilatı, olayla ilgili yürüttüğü soruşturmayı Şubat 2024 itibarıyla herhangi bir suçlamada bulunmadan kapattığını açıkladı. Polis sözcüsü Dani McKinnon; genel olarak kanıt yetersizliği, mağdurların yargı sürecine devam etme konusundaki çekinceleri, mahkûmiyet ihtimalinin düşüklüğü ve yapay zekâ ile işlenen suçların hukuki karmaşıklığı gibi nedenlerin bu tür kararlarda etkili olabildiğini belirtti. McKinnon, polisin anladığı kadarıyla ilgili tarafların bu karardan tatmin olduğunu ifade etti.

Hukuk uzmanı Suzie Dunn ve bilgisayar bilimleri uzmanı Maura Grossman, bu vakanın Kanada hukuk sistemindeki boşlukları ortaya koyduğunu değerlendirdi. Mevcut yasaların büyük ölçüde "gerçek görüntülerin" rıza dışı paylaşımına odaklandığı, yapay zekâ ile "değiştirilmiş görüntüler" (deepfake) konusunun ise yasal tanımlarda yeterince yer bulmadığı belirtildi. Uzmanlar, bu tür içeriklerin üretiminin kolaylaşmasının benzer vakaları artırabileceği uyarısında bulundu.

Olayın ardından okul yönetimi, dijital vatandaşlık ve internet güvenliği konularında eğitim programları başlatacağını duyurdu. Tespit edilen sahte görüntüler, internetten silinmelerine yardımcı olan "Project Arachnid" adlı sisteme yüklendi. Ancak bilişim uzmanları, internete sızan içeriklerin tamamen yok edilmesinin teknik olarak garanti edilemeyeceğini vurguladı.