Güney Kore’de yapay zekâ ile üretilen müstehcen içeriklerin Telegram üzerinden yayılmasının ulusal çapta bir krize yol açtığı bildirildi

Güney Kore’de, sosyal medya hesaplarından alınan kişisel fotoğrafların üretken yapay zekâ araçlarıyla rıza dışı müstehcen içeriklere dönüştürüldüğü ve bu içeriklerin Telegram üzerindeki kapalı gruplarda sistematik olarak paylaşıldığı rapor edildi. Emniyet verilerine göre, 2024 yılının ilk yedi ayında 297 deepfake kaynaklı cinsel suç vakası bildirildiği, bu sayının önceki yıllara oranla ciddi bir artış gösterdiği açıklandı. Özellikle 220.000’den fazla üyesi bulunan bir Telegram kanalının, kullanıcıların tanıdıkları kişilerin fotoğraflarını saniyeler içinde sahte müstehcen görsellere dönüştüren yapay zekâ botlarıyla donatıldığı tespit edildi.

Olayın en dikkat çekici unsurlarından birinin, hem şüphelilerin hem de mağdurların büyük çoğunluğunun reşit olmayan bireylerden oluşması olduğu belirtildi. Ulusal Polis Ajansı, yılın ilk yedi ayında tespit edilen 178 şüphelinin 131’inin gençlerden oluştuğunu; mağdurlar arasında ise ortaokul ve lise öğrencilerinin yanı sıra öğretmenlerin ve askeri personelin de bulunduğunu bildirdi. Bu durumun ülkede geniş çaplı bir paniğe yol açtığı, pek çok kadının dijital saldırıya uğrama endişesiyle sosyal medya hesaplarındaki fotoğraflarını sildiği veya hesaplarını kapattığı aktarıldı. Bazı eğitim kurumlarında güvenlik önlemi olarak okul yıllıklarında öğrenci fotoğrafları yerine karikatür kullanılması gibi yöntemlerin tartışıldığı ifade edildi.

Güney Kore hükümeti ve Devlet Başkanı Yoon Suk Yeol, yaşananları "teknolojiyi anonimlik zırhı arkasına saklanarak kötüye kullanan açık bir suç" olarak nitelendirerek dijital cinsel suçların kökünün kazınması için özel bir görev gücü oluşturulduğunu duyurdu. Telegram yönetimi yaptığı açıklamada, platformdaki yasa dışı içeriklerle aktif olarak mücadele ettiklerini belirtirken, Güney Koreli yetkililer platformla doğrudan bir iletişim hattı kurmaya çalıştıklarını ifade etti. Ancak, şifreli mesajlaşma platformlarının yapısı ve sunucuların yurt dışında bulunması nedeniyle faillerin tespiti ve içeriklerin tamamen silinmesi konusunda operasyonel zorluklar yaşanmaktadır.

Mevcut yasaların bu tür içerikleri üreten ve dağıtanlara hapis cezası öngördüğü, ancak içerikleri yalnızca izleyen veya depolayan kişilere yönelik yasal yaptırımların yetersiz kaldığına dair eleştiriler üzerine yeni yasal düzenlemelerin gündeme geldiği belirtildi. Uzmanlar, yapay zekâ teknolojisinin etik eğitiminin önüne geçtiğini ve gençlerin bu tür eylemleri bir "oyun" veya "şaka" olarak görme eğiliminde olduğunu vurgulamaktadır.