Yapay zekâ ile üretilen deepfake içeriklerin sahte uzman kimliğiyle pazarlama amacıyla kullanılması, tüketici dolandırıcılığı risklerini ortaya koymuştur.

ABD’li tüketici danışmanı ve yayıncı Clark Howard’ın görüntüsü ile sesini taklit ettiği bildirilen yapay zekâ üretimli bir video, sosyal medya platformlarında otomobil sigortası teklif hizmetini tanıtmak amacıyla yayımlandı. Videoda Howard’ın, kullanıcıların araçları hakkında birkaç soruyu yanıtlayarak herhangi bir ücret ödemeden daha düşük sigorta tarifelerine ulaşabileceğini söylediği izlenimi oluşturuldu. Howard, söz konusu hizmeti desteklemediğini ve videodaki kişinin kendisi olmadığını açıkladı.

Georgia eyaletinin Kennesaw kentinde yaşayan Dianne Milton, videoyu ilk gördüğünde gerçek bir Clark Howard tavsiyesi olduğunu düşündüğünü bildirdi. Milton, daha önce benzer çevrim içi sigorta teklif hizmetlerine bilgi girdikten sonra çok sayıda sigorta şirketinden istenmeyen telefon aldığını, ancak daha uygun bir teklif elde edemediğini belirtti. Videonun yönlendirdiği internet sitesinin doğrudan bir sigorta şirketinden ziyade kullanıcı bilgilerini toplayarak sigorta sağlayıcılarına veya aracılara aktaran bir teklif oluşturma hizmeti olduğu değerlendirildi.

Howard, yapay zekâ ile oluşturulan görüntünün gerçeğe yakınlığının izleyicilerin içeriğin sahte olduğunu ayırt etmesini zorlaştırdığını ifade etti. İçeriğin üreticisi, kullanılan yapay zekâ aracı ve video üzerinden kaç kişinin siteye yönlendirildiği açıklanmadı. Ayrıca kamuya açık kaynaklarda kullanıcıların doğrudan mali kayba uğradığını, olayla ilgili resmî soruşturma açıldığını veya sosyal medya hesaplarına yaptırım uygulandığını doğrulayan bilgi bulunmamaktadır.

Bu nedenle olay, doğrulanmış bir sigorta satışı veya kesinleşmiş mali dolandırıcılıktan ziyade, tanınmış bir tüketici danışmanının izinsiz taklit edilerek ticari bir hizmete güvenilirlik kazandırılması ve kullanıcıların kişisel bilgilerini paylaşmaya yönlendirilmesi vakası olarak değerlendirilmelidir.