ABD’de bir şahsın yapay zekâ sohbet botlarını ve görüntü üretim araçlarını kullanarak kapsamlı bir siber taciz kampanyası yürüttüğü bildirildi

Massachusetts eyaletinde yaşayan James Florence Jr. isimli şahsın, 2014 ile 2024 yılları arasında (bir üniversite profesörüne yönelik olanı 2017'de başlamak üzere) çok sayıda kadına yönelik sistematik bir siber taciz kampanyası yürüttüğü ve bu süreçte gelişmiş yapay zekâ araçlarından yararlandığı iddia edildi. Mahkeme belgelerine göre sanık, CrushOn.ai ve JanitorAI gibi kullanıcıların kendi karakterlerini oluşturmasına izin veren platformlarda mağdurları taklit eden sohbet botları programlamıştır. Bu botların, mağdurların kişisel bilgilerini kullanarak yabancı kullanıcılarla cinsel içerikli diyaloglar kurmak ve mağdurların gerçek ev adreslerini paylaşarak kişileri bu adreslere davet etmek üzere eğitildiği öne sürüldü.

Sanığın, özellikle bir üniversite profesörünü hedef aldığı; mağdurun doğum tarihi, aile bilgileri ve günlük alışkanlıkları gibi hassas verileri sohbet botuna aktardığı belirtildi. Yapay zekâ botunun, mağdurun kimliğine bürünerek yabancılara "Neden yanıma gelmiyorsun?" şeklinde mesajlar gönderdiği ve bu durumun mağdurun konutunun önünde tanınmayan şahısların toplanmasına yol açarak ciddi bir fiziksel güvenlik riski oluşturduğu aktarıldı. Ayrıca sanığın, üretken yapay zekâ araçlarını kullanarak mağdurların rıza dışı müstehcen görüntülerini (deepfake) oluşturduğu ve bu içerikleri kadınları aşağılamayı amaçlayan internet sitelerinde paylaştığı ifade edildi.

Olay, bir tacizcinin mağdurunu taklit etmek ve suç faaliyetlerini kolaylaştırmak amacıyla yapay zekâ sohbet botlarını kullandığı gerekçesiyle federal düzeyde iddianameye konu olan ilk vakalardan biri olarak değerlendirilmektedir. Sanık, yedi ayrı siber taciz suçlamasını ve çocuk pornografisi bulundurma suçunu kabul etmiştir. Cinsel şiddet karşıtı Rainn kuruluşundan Stefan Turkheimer, bu vakanın yapay zekâ araçlarının kötü niyetli kişilerce istismar edilerek taciz eylemlerinin ölçeğini ve yarattığı psikolojik/fiziksel zararı nasıl derinleştirebileceğini gösterdiğine dikkat çekmektedir.