Teksas’ta bir lise öğrencisinin fotoğraflarının yapay zekâ ile rıza dışı müstehcen içeriklere dönüştürülerek paylaşıldığı bildirildi

Ekim 2023’te ABD’nin Teksas eyaletindeki Aledo Lisesi’nde eğitim gören 14 yaşındaki Elliston Berry’nin, kişisel ve gizli Instagram hesabından alınan fotoğraflarının yapay zekâ yazılımları aracılığıyla rıza dışı müstehcen içeriklere (deepfake) dönüştürüldüğü bildirildi. Berry’nin anlatımına göre, bir erkek sınıf arkadaşı tarafından oluşturulan sahte görüntüler, anonim hesaplar üzerinden Snapchat ve diğer sosyal medya platformlarında paylaşıldı. Olaydan Berry ile birlikte aynı arkadaş grubundaki en az altı kız öğrencinin daha etkilendiği öne sürüldü.

Mağdur öğrenci ve ailesi, görüntülerin oldukça ikna edici olduğunu, orijinal fotoğrafların bir gemi seyahati veya plaj gibi mekanlarda çekilmiş olmasına rağmen yapay zekâ ile kıyafetlerin silindiğini ifade etti. Berry, bu durumun okul ortamında ağır bir kaygı, utanç ve korkuya yol açtığını; görüntülerin gerçek olup olmadığına dair şüphelerin sosyal ilişkilerini ve akademik odağını olumsuz etkilediğini belirtti. Aile, okul yönetiminin ve yerel kolluk kuvvetlerinin başlangıçta bu yeni nesil dijital istismara karşı net bir disiplin yönetmeliği veya yasal çerçeve eksikliği nedeniyle müdahalede zorlandığını iddia etti.

Olayın ardından, Senatör Ted Cruz ve Amy Klobuchar liderliğindeki bir grup siyasetçi, rıza dışı müstehcen içeriklerin yayımlanmasını suç kapsamına alan ve platformlara bu içerikleri 48 saat içinde kaldırma yükümlülüğü getiren "TAKE IT DOWN" yasasını gündeme getirdi. Snapchat sözcüsü, topluluk kurallarının ihlal edildiğini ve bu tür içeriklere karşı sıfır tolerans politikası izlediklerini açıklasa da; mağdur öğrenci, bazı görüntülerin platformda dokuz ay boyunca dolaşımda kaldığını belirtti.

İlgili okul bölgesi, fail olduğu belirlenen öğrenciye yönelik disiplin işlemlerinin eyalet yasaları ve öğrenci davranış kuralları çerçevesinde uygulandığını bildirdi. Ancak mağdurun ailesi, okulun failin eğitim hakkını koruma önceliği güttüğünü ve mağdur öğrencilere yeterli psikolojik destek sağlanmadığını iddia ederek kurumsal tepkiyi eleştirdi. Olay, yapay zekâ araçlarının dijital zorbalık ve cinsel istismar amacıyla kötüye kullanımına dair hukuki ve idari boşlukları tartışmaya açmıştır.