FBI, yapay zekâ ile üretilen müstehcen içeriklerin şantaj ve taciz amaçlı kullanımının arttığını bildirdi

FBI tarafından Haziran 2023’te yayımlanan kamuoyu duyurusunda, kötü niyetli kişilerin masum fotoğraf ve videoları yapay zekâ araçlarıyla manipüle ederek müstehcen içeriklere dönüştürdüğü ve bu içerikleri şantaj (sextortion) faaliyetlerinde kullandığı belirtildi. Bu yöntemin özellikle reşit olmayan çocukları ve rızası olmayan yetişkinleri hedef aldığı; mağdurların taciz edildiği, fidye ödemeye veya daha fazla müstehcen içerik göndermeye zorlandığı aktarıldı.

FBI’ın İnternet Suçları Şikâyet Merkezi (IC3) verilerine göre, Nisan 2023 itibarıyla sosyal medya platformlarından veya açık internet kaynaklarından alınan görsellerin deepfake teknolojisiyle gerçeğe aykırı şekilde düzenlendiği vakalarda belirgin bir artış gözlemlendiği bildirildi. Saldırganların, kurbanlardan para veya hediye kartı talep ettiği; bu taleplerin karşılanmaması durumunda ise yapay zekâ ile üretilen sahte içerikleri mağdurun ailesi, arkadaş çevresi veya iş ortamında paylaşmakla tehdit ettiği ifade edildi.

Raporda, yapay zekâ teknolojilerindeki hızlı ilerlemenin, tek bir yüz fotoğrafından bile son derece ikna edici ve gerçeğe yakın videolar üretilmesine imkân tanıdığı vurgulandı. Birçok mağdurun, görüntülerinin kopyalanıp manipüle edildiğinden ancak üçüncü şahıslar aracılığıyla veya internette tesadüfen karşılaşınca haberdar olduğu belirtildi. FBI, bu tür sentetik içeriklerin bir kez dolaşıma girmesinin ardından internetten tamamen kaldırılmasının ve yayılımının engellenmesinin ciddi teknik zorluklar barındırdığına dikkat çekti.

Uzmanlar, ticari deepfake yazılımlarının çoğunda bulunan "uygunsuz içerik" engelleme filtrelerinin kötü niyetli kişilerce çeşitli yöntemlerle aşılabildiğine veya denetimsiz yeraltı pazarlarındaki kısıtlamasız araçların kullanıldığına dikkat çekmektedir. FBI, kullanıcıların sosyal medya gizlilik ayarlarını sıkılaştırmalarını, çocuklarının çevrimiçi aktivitelerini izlemelerini ve tanımadıkları kişilerden gelen arkadaşlık veya görüntülü görüşme taleplerine karşı ihtiyatlı olmalarını önerdi.