GenNomis adlı yapay zekâ platformuna ait korumasız bir veri tabanında çocuk istismarı şüphesi uyandıran ve rıza dışı müstehcen görsellerin yer aldığı bildirildi

Siber güvenlik araştırmacısı Jeremiah Fowler, Güney Kore merkezli AI-NOMIS şirketine ait GenNomis platformuyla ilişkili, şifre koruması bulunmayan bir veri tabanını tespit ettiğini bildirdi. Nisan 2025'te kamuoyuna yansıyan raporlara göre, Amazon Web Services (AWS) üzerinde barındırılan ve yaklaşık 47,8 GB büyüklüğünde olan bu veri tabanının, 93 binden fazla görsel ile kullanıcı komutlarını içeren JSON dosyalarını barındırdığı aktarıldı.

Araştırmacı, veri tabanında yaptığı incelemede, "nudify" (görsellerden kıyafet silme) ve yüz değiştirme teknolojileri kullanılarak üretilmiş çok sayıda müstehcen içerik tespit ettiğini belirtti. Raporda, bu içerikler arasında çocukların ve çocuk gibi gösterilen ünlü isimlerin yapay zekâ tarafından üretilmiş müstehcen tasvirleri olduğu değerlendirilen görsellerin de bulunduğu öne sürüldü. Ayrıca, sistemin kullanıcılar tarafından gerçek kişilerin fotoğraflarını rıza dışı cinsel içeriklere dönüştürmek amacıyla kullanıldığına dair bulgulara ulaşıldığı ifade edildi.

GenNomis platformunun kullanım şartlarında çocuk istismarı ve yasa dışı içerik üretiminin yasak olduğu belirtilmesine rağmen, söz konusu görsellerin sistemin veri tabanında saklanıyor olması, moderasyon ve denetim mekanizmalarının etkinliği konusundaki endişeleri artırmıştır. Araştırmacı, Mart 2024'te durumu şirkete bildirmesinin ardından veri tabanına erişimin kesildiğini ve kısa bir süre sonra şirketin internet sitelerinin çevrimdışı olduğunu aktardı. Şirket tarafından olaya ilişkin resmi bir açıklama yapılmadığı ve araştırmacının bildirimine yanıt verilmediği kaydedildi.

Veri tabanının doğrudan şirket tarafından mı yoksa üçüncü taraf bir yüklenici tarafından mı yönetildiği ve sızıntının ne kadar süredir devam ettiği bütünüyle doğrulanamamıştır. Araştırmacı, incelediği örneklerde kişisel tanımlayıcı bilgilere (PII) rastlamadığını ancak rıza dışı üretilen bu tür içeriklerin şantaj, itibar zararı ve taciz gibi ciddi riskler barındırdığını vurguladı. Olay, denetimsiz üretken yapay zekâ sistemlerinin kamu güvenliği ve bireysel gizlilik üzerindeki potansiyel zararlarını bir kez daha gündeme getirmiştir.