Leonardo.Ai platformunun ünlü kişilere yönelik rıza dışı cinsel içerikli görseller üretmek amacıyla kötüye kullanıldığı bildirildi

Avustralya merkezli teknoloji girişimi Leonardo.Ai tarafından geliştirilen metinden görsele dönüştürme platformunun, ünlü kişilerin rıza dışı cinsel içerikli (deepfake) görsellerini oluşturmak için kullanıldığı öne sürüldü. 404 Media’dan gazeteci Emanuel Maiberg, Reddit ve Telegram gibi mecralarda paylaşılan belirli komut (prompt) dizilerini kullanarak, sistemin mevcut güvenlik filtrelerini aşabildiğini ve aralarında şarkıcı Billie Eilish’in de bulunduğu kişilere ait müstehcen içerikleri anlık olarak üretebildiğini raporladı.

Yapılan incelemelerde, kötü niyetli kullanıcıların platformun içerik denetleme mekanizmalarını baypas etmek için özel yöntemler geliştirdiği belirlendi. Leonardo.Ai sisteminin "çıplaklık" içeren doğrudan talepleri standart bir "içerik moderasyon filtresi" hatasıyla engellediği, ancak dolaylı komutlarla bu koruma kalkanlarının etkisiz bırakılabildiği aktarıldı. Söz konusu içeriklerin paylaşıldığı topluluklarda, kullanıcıların birbirlerine sistemin denetim mantığını nasıl yanıltacaklarına dair talimatlar verdiği bildirildi.

Leonardo.Ai sözcüsü, platformda kötüye kullanımı engellemek adına çok katmanlı otomatik filtreleme ve manuel denetim süreçlerinin birlikte yürütüldüğünü açıkladı. Şirket, güvenlik açıklarına ilişkin bulguların ardından koruma mekanizmalarına yeni mantıksal denetimler eklendiğini, bu güncellemelerin bir kısmının yayına alındığını ve sistemin suistimal edilmesini önlemeye yönelik çalışmaların devam ettiğini belirtti.