Yapay Zekâ Eğitim Veri Setlerinde Denetimsiz İçeriklerin, Yasa Dışı Materyallerin Yayılmasına ve Araştırmacılar İçin Hukuki Riskler Oluşturmasına Neden Olduğu Bildirilmektedir

Kanada Çocuk Koruma Merkezi (Canadian Centre for Child Protection-C3P), 22 Ekim 2025’te, yapay zekâ tabanlı çıplaklık tespit sistemlerinin geliştirilmesinde kullanılan NudeNet veri kümesinde çocukların cinsel istismarını gösteren materyaller tespit edildiğini açıkladı. Haziran 2019’dan itibaren Academic Torrents üzerinden erişime sunulan veri kümesinin, internetten toplanmış 700 binden fazla görüntü içerdiği bildirildi.

C3P’nin incelemesinde, veri kümesinde kimliği belirlenmiş veya daha önce bilinen mağdurlara ait 120’den fazla çocuk cinsel istismar materyali görüntüsü bulundu. Kuruluş ayrıca yaklaşık 70 görüntünün ergenlik öncesi olduğu doğrulanan veya bu yaş grubunda göründüğü değerlendirilen çocukların genital ya da anal bölgelerine odaklandığını açıkladı. Bazı dosyaların çocuklara yönelik cinsel istismar eylemlerini gösterdiği bildirildi. Mağdurların korunması amacıyla görüntülere ilişkin tanımlayıcı ayrıntılar kamuoyuyla paylaşılmadı.

Veri kümesinin akademik araştırmalarda ve içerik denetleme modellerinde yaygın biçimde kullanıldığı belirtildi. C3P’ye göre 250’den fazla akademik çalışma NudeNet’e atıfta bulundu veya veri kümesinden yararlandı. Sınırlı kapsamlı bir incelemede değerlendirilen 50 projeden 13’ünün veri kümesini doğrudan kullandığı, 29’unun ise NudeNet sınıflandırıcısına veya modeline dayandığı tespit edildi. Bu bulgular, yasa dışı içeriğin araştırma ve model geliştirme süreçlerinde fark edilmeden çoğaltılmış olabileceğine işaret etmektedir.

C3P’nin kaldırma bildiriminin ardından Academic Torrents’ın veri kümesini erişimden çıkardığı bildirildi. Ancak daha önce indirilen kopyaların araştırmacıların veya kurumların sistemlerinde bulunmaya devam edip etmediği bilinmemektedir. Çocuk cinsel istismar materyalinin bulundurulması birçok ülkede suç teşkil edebilmekle birlikte, belirli kişi veya kuruluşların hukuki sorumluluğu; yargı yetkisine, içeriğin bilerek edinilip edinilmediğine ve fark edilmesinden sonra atılan adımlara göre değişebilir. Bu nedenle veri kümesini indiren herkesin otomatik olarak suç işlemiş olduğu sonucuna varılamaz.

Olay, yapay zekâ eğitim verilerinin kaynağı, hukuka uygunluğu ve yayımlanmadan önce denetlenmesi konusunda ciddi eksiklikler bulunduğunu gösterdi. C3P, istismar görüntülerinin yeniden dağıtılmasının mağdurların tekrar zarar görmesine neden olduğunu ve veri kümelerinin güvenli biçimde incelenmesi için çocuk koruma kuruluşlarıyla iş birliği yapılması gerektiğini vurguladı.