Hatalı yapılandırılan llama.cpp sunucularının cinsel rol yapma sohbetlerine ait kullanıcı istemlerini açığa çıkardığı bildirildi

Güvenlik şirketi UpGuard’ın Mart 2025’te gerçekleştirdiği internet taramaları sırasında, hatalı yapılandırıldığı değerlendirilen yaklaşık 400 yapay zekâ sistemi tespit ettiği bildirildi. Araştırmacılara göre bunlardan 117’si, kullanıcıların sohbet istemlerini internet üzerinden gerçek zamanlı olarak erişilebilir hâle getiriyordu.

Etkilenen sistemlerin açık kaynaklı llama.cpp çerçevesini kullandığı ve sunucuların uygun erişim denetimleri olmadan yapılandırılması nedeniyle “/slots” uç noktası üzerinden aktif kullanıcı istemlerinin görüntülenebildiği belirtildi. İncelenen sistemlerden üçünün yetişkinlere yönelik fantezi ve cinsel rol yapma sohbetleri sunduğu, sızdırılan içeriklerin bir bölümünde çocukların yer aldığı cinsel senaryolar bulunduğu bildirildi.

UpGuard, 24 saatlik gözlem süresinde İngilizce, Rusça, Fransızca, Almanca ve İspanyolca dâhil farklı dillerde yaklaşık 1.000 istem toplandığını açıkladı. Analiz edilen 952 benzersiz mesaj içinde 108 farklı rol yapma senaryosu belirlendiği, bunlardan beşinin çocukların cinsel istismarını konu alan içerikler içerdiği aktarıldı.

Sızdırılan istemlerde kullanıcı adı veya doğrudan kişisel kimlik bilgisi tespit edilmediği bildirildi. Bununla birlikte özel sohbet içeriklerinin yetkisiz kişilerce erişilebilir olması önemli bir gizlilik ve güvenlik ihlali olarak değerlendirildi. Araştırmacılar, sistemlerin hangi internet sitelerine veya hizmetlere ait olduğunu kesin olarak belirleyemedi; dağıtımların kurumsal hizmetlerden ziyade küçük ölçekli ya da bireysel kurulumlar olabileceğini öne sürdü.