Sahte bir hukuk bürosunun yapay zekâ ile üretilmiş portreler kullanarak telif hakkı üzerinden dolandırıcılık yaptığı öne sürüldü

Nisan 2022'de, kendisini Boston merkezli "Arthur Davidson Legal Services" adlı hukuk bürosunda marka avukatı olarak tanıtan "Nicole Palmer" isimli bir kişinin, web sitesi sahiplerine sahte DMCA (Dijital Binyıl Telif Hakkı Yasası) ihlal bildirimleri gönderdiği bildirildi. Gönderilen e-postalarda, sitede kullanılan bir görselin telif hakkının ihlal edildiği öne sürülerek, yasal işlem başlatılmaması için yedi gün içinde belirli bir web sitesine "atıf linki" (backlink) eklenmesinin talep edildiği aktarıldı.

Yapılan incelemelerde, hukuk bürosunun web sitesinde yer alan avukat portrelerinden en az birinin üretken çekişmeli ağlar (GAN) kullanılarak oluşturulmuş sentetik bir görüntü olduğu tespit edildi. Görüntüdeki küpe asimetrisi, saç kenarlarındaki düzensizlikler ve gözlük çerçevelerindeki hatalar gibi tipik yapay zekâ kusurlarının, bu profilin gerçekte var olmadığını gösterdiği değerlendirildi. Ayrıca, 2009'dan beri faaliyette olduğunu iddia eden firmanın alan adının Şubat 2022'de tescil edildiği ve fiziksel adresinin başka firmalara ait olduğu belirlendi.

Olayın, arama motoru optimizasyonu (SEO) amacıyla sitelerin otoritesini artırmak için kurgulanmış bir sosyal mühendislik operasyonu olduğu üzerinde durulmaktadır. İncelemelerin ardından ilgili web sitesinin kapatıldığı; ancak bu tür yöntemlerin yapay zekâ araçlarıyla düşük maliyetli ve inandırıcı şekilde tekrarlanabileceği uyarısında bulunuldu.