Malta ve İspanya’da çocukların rıza dışı üretilen yapay zekâ kaynaklı müstehcen içeriklerin hedefi olduğu bildirildi

Malta’da Sosyal Refah Hizmetleri Vakfı bünyesindeki "Be Smart Online" projesi koordinatörü Deborah Vassallo, son altı ay içinde yaşları 12, 16 altı, 16-18 ve 20 olan bireylerin mağdur olduğu dört ayrı derin kurgu (deepfake) vakasının raporlandığını bildirdi. Aktarılan bilgilere göre, bu sistemler ya mağdurların yüzlerini çıplak vücutlara yerleştirmekte ya da kişilerin fotoğraflarını analiz ederek kıyafetlerin altındaki vücut yapısını dijital olarak yeniden kurgulayıp gerçekçi ancak sahte çıplak görüntüler üretmektedir. Bir vakada, bir kız çocuğunun okul kürsüsünde konuşma yaparken çekilmiş fotoğrafının bu tür bir içerik üretimi için kullanıldığı belirtildi.

Söz konusu içeriklerin WhatsApp gibi mesajlaşma platformları üzerinden mağdurları aşağılamak veya sahte profiller aracılığıyla şantaj yapmak amacıyla paylaşıldığı ifade edildi. Yetkililer, bu eylemlerin arkasındaki temel motivasyonun genellikle reddedilme veya sona eren ilişkiler sonrası "intikam" alma isteği olduğunu değerlendirmektedir. Ebeveynlerin, adli süreçlerin yavaşlığı ve çocukların sorgulanma sırasında yaşayabileceği ikincil travmalar nedeniyle olayları resmi makamlara bildirme konusunda çekince yaşadıkları; bu durumun çocukların hem suçun hem de sistemin mağduru haline gelmesine yol açabileceği aktarıldı.

Benzer bir durumun İspanya’nın Almendralejo kasabasında da yaşandığı; 20’den fazla genç kızın, sınıf arkadaşları tarafından yapay zekâ ile üretilen sahte müstehcen fotoğraflarının yayıldığını fark ettiği bildirildi. İspanyol polisinin soruşturma başlattığı ancak faillerin bir kısmının cezai ehliyet yaşının altında olması nedeniyle mevcut mevzuatın bu tür teknolojik suistimaller karşısında yetersiz kaldığına dair tartışmaların başladığı belirtildi. Bu olaylar, üretken yapay zekâ araçlarının denetimsiz kullanımının çocuk güvenliği üzerindeki risklerini yeniden gündeme getirmiştir.