OpenDream adlı yapay zekâ görsel üretim platformunun çocuk cinsel istismarı materyalleri ve rıza dışı deepfake üretiminde kullanıldığı bildirildi

Bellingcat tarafından yayımlanan araştırmada, kendisini "yapay zekâ sanat üreteci" olarak tanımlayan OpenDream platformunun, çocuk cinsel istismarı materyalleri (CSAM) ve ünlü kişilere yönelik rıza dışı pornografik deepfake içeriklerin üretilmesi ve kamuya açık şekilde sergilenmesi için kullanıldığı öne sürüldü. Platformun herkese açık galerisinde, küçük yaştaki çocuklara ve bebeklere yönelik cinsel içerikli görsellerin aylarca herhangi bir denetim mekanizması olmaksızın yer aldığı bildirildi.

İncelemeler, sistemin ücretli abonelik paketleri aracılığıyla kullanıcılara "NSFW" (iş yeri için uygun olmayan) komutlar ve modeller sunduğunu, bu sayede yasa dışı içerik üretiminin ticarileştirildiğini ortaya koydu. Arşiv kayıtlarına göre, söz konusu içeriklerin en az Aralık 2023'ten itibaren platformda görünür olduğu; Google ve Bing gibi arama motorlarında platform adıyla yapılan aramalarda da benzer istismar içeriklerinin ön plana çıktığı saptandı.

Olayın kamuoyuna yansımasının ardından Google'ın platformun reklam hesabını politikaları gereği kapattığı, ödeme sistemleri sağlayıcısı Stripe üzerinden yapılan ödemelerin ise Temmuz sonu itibarıyla işlevsiz kaldığı aktarıldı. Temmuz 2024 sonu itibarıyla platformda bazı içerik temizleme çalışmalarının yapıldığı gözlemlenmiş olsa da, OpenDream yetkililerinin konuyla ilgili açıklama taleplerine yanıt vermediği belirtildi. Platformun mülkiyetinin Singapur merkezli CBM Media Pte Ltd şirketi ve direktörü Nguyen Viet Hai ile bağlantılı olduğu saptanmıştır.