Illinois’da bir lisede öğrencilerin fotoğraflarının yapay zekâ ile müstehcen içeriklere dönüştürüldüğü ve paylaşıldığı bildirildi

ABD'nin Illinois eyaletindeki Richmond-Burton Community Lisesi'nde, öğrencilerin sosyal medya hesaplarından alınan fotoğrafların üretken yapay zekâ araçları kullanılarak rıza dışı müstehcen görüntülere (deepfake) dönüştürüldüğü ve okul ortamında dolaşıma sokulduğu bildirildi. 15 yaşındaki mağdur Stevie Hyder’ın anlatımına göre, 2023 yılındaki mezuniyet balosu (prom) öncesinde çekilen bir fotoğrafı manipüle edilerek dijital ortamda yayıldı. Yapılan incelemelerde, yaklaşık 30 kız öğrenci ve 3 öğretmenin benzer şekilde hedef alındığı öne sürüldü.

Mağdur öğrenciler ve aileleri, bu içeriklerin gelecekteki üniversite başvuruları ve iş fırsatları üzerinde yaratabileceği zararlar konusundaki endişelerini dile getirdi. Richmond Polis Departmanı ve McHenry County Savcılığı tarafından yürütülen soruşturma sonucunda, olayla bağlantılı olduğu değerlendirilen iki reşit olmayan şüpheli tutuklandı. Şüphelilerin, Illinois yasalarına göre çocuk pornografisi ve reşit olmayanlara zararlı materyal dağıtma suçlamalarıyla karşı karşıya olduğu; bir şüphelinin 17, diğerinin ise 13+4 farklı suçlamayla yargılandığı bildirildi.

Olay, rıza dışı üretilen derin sahte (deepfake) içerikleri düzenlemeyi amaçlayan federal düzeydeki DEFIANCE Act gibi yasal düzenleme önerilerini tekrar tartışmaya açmıştır. Bilgisayar bilimleri uzmanları, bu tür teknolojilerin kötü niyetli kullanımının büyük zarar potansiyeli taşıdığını vurgulamaktadır. Okul yönetimi, devam eden soruşturma ve reşit olmayan kişilerin gizliliği gerekçesiyle ayrıntılı açıklama yapmaktan kaçınırken, CASA of McHenry County gibi kuruluşların mağdur öğrencilere danışmanlık desteği sağladığı belirtilmiştir.