Yapay Zekâ Tabanlı İçerik Platformunun, Bulut Depolama Açığı Nedeniyle Rızasız Açık İçerik ve Kişisel Verileri İfşa Ettiği Bildirilmektedir

Yetişkinlere yönelik yapay zekâ sohbeti ve görüntü üretimi hizmeti sunan Secret Desires platformunun, yaklaşık iki milyon görsel ve videonun bulunduğu bulut depolama alanlarını kimlik doğrulaması olmadan internet üzerinden erişilebilir durumda bıraktığı bildirildi.

Açığa çıkan dosyalar arasında platform kullanıcılarının yüklediği kaynak fotoğraflar, yapay zekâ tarafından üretilen cinsel içerikler ve gerçek kişilerin yüzlerinin açık görüntülere eklendiği rıza dışı deepfake materyaller bulunduğu belirtildi. İçeriklerde kamuya mal olmuş kişilerin yanı sıra sosyal medya kullanıcıları ve tanınmayan kadınlara ait fotoğrafların kullanıldığı aktarıldı. Bazı kaynak görsellerin Snapchat ekran görüntülerinden, okul yıllıklarından ve kişisel sosyal medya hesaplarından alındığı bildirildi.

Dosyalarla birlikte bazı kişilerin adları, çalıştıkları kurumlar ve öğrenim gördükleri üniversiteler gibi kimlik belirlemeyi kolaylaştırabilecek bilgilerin de erişilebilir olduğu tespit edildi. Bu durum, sızıntının yalnızca platform kullanıcılarının verilerini değil, fotoğrafları rızaları dışında sisteme yüklenen kişileri de etkilediğini göstermektedir.

Bazı dosya adlarında 17 yaşındaki kişilere atıfta bulunan ifadeler bulunduğu bildirildi. Ancak içeriklerde gerçekten çocukların yer alıp almadığı ve bu dosyaların çocukların cinsel istismarı niteliğindeki materyal oluşturup oluşturmadığı resmî makamlarca doğrulanmadı. Bu nedenle çocuklara ilişkin risk kesinleşmiş bulgu değil, incelenmesi gereken ciddi bir şüphe olarak değerlendirilmiştir.

Secret Desires’ın daha önce kullanıcıların yükledikleri yüzleri başka görüntülere eklemelerine imkân veren bir yüz değiştirme özelliği sunduğu, bu özelliğin 2024 içinde kaldırıldığı belirtildi. Buna karşın erişime açık depolama alanlarında bu işlev kullanılarak hazırlanmış olabilecek çok sayıda materyalin bulunduğu aktarıldı.

Platformun işletmecileri ilk medya taleplerine yanıt vermedi. Korumasız dosyaların, şirketle iletişime geçilmesinden yaklaşık bir saat sonra erişilemez hâle geldiği bildirildi. Depolama alanlarının ne kadar süre açık kaldığı, kaç kişinin dosyalara eriştiği veya verileri indirdiği ve etkilenen kişilere bildirim yapılıp yapılmadığı açıklanmadı.