Facebook’ta ünlü finans figürlerinin kimliklerini taklit eden yapay zekâ destekli reklamların geniş ölçekli yatırım dolandırıcılığına yol açtığı iddia edildi

Bill Ackman, Cathie Wood ve Ray Dalio gibi tanınmış milyarder yatırımcıların kimliklerinin, Facebook üzerinden yayımlanan sahte reklamlarla sistematik olarak suistimal edildiği bildirildi. Bu reklamlarda, ilgili kişilerin ses ve görüntülerinin yapay zekâ (deepfake) yöntemleriyle taklit edildiği; kullanıcılara yıllık %125 veya haftalık %25 ile %87 arasında değişen gerçek dışı getiri vaatlerinde bulunulduğu öne sürüldü. Pershing Square Capital Management, yalnızca Bill Ackman’ı taklit eden 90’dan fazla farklı reklam tespit ettiklerini açıkladı.

Dolandırıcılık mekanizmasının, mağdurları Facebook reklamları üzerinden WhatsApp gruplarına yönlendirdiği; burada kendilerini ünlü yatırımcıların asistanı olarak tanıtan sahte profillerce "pump-and-dump" (şişir ve boşalt) olarak bilinen hisse senedi manipülasyonlarına dahil edildikleri aktarıldı. Bu yöntemle Atlanta’da bir yatırımcının 45.000 ABD doları, Nashville’de bir çiftin ise 1,3 milyon ABD doları kaybettiği bildirildi. ABD Federal Ticaret Komisyonu (FTC), bu tür kimlik taklidi dolandırıcılıklarından kaynaklanan zararların 2023 yılında 2,7 milyar ABD dolarına ulaştığını belirtti.

Meta, sahte hesapları engellemek için yapay zekâ kullandığını ve güvenlik ekiplerine büyük yatırımlar yaptığını savunurken; mağdurlar ve ilgili yatırım şirketleri, şikayet edilen reklamların "topluluk standartlarını ihlal etmediği" gerekçesiyle haftalarca yayında kaldığını iddia etti. Sektördeki bazı gözlemciler, Meta’nın işten çıkarmalar sonrası içerik denetim kapasitesinin zayıflamış olabileceğini öne sürmektedir. Şirket ise dolandırıcıların denetimden kaçmak için yöntemlerini sürekli güncellediğini ve milyarlarca spam içeriğin proaktif olarak engellendiğini açıklamıştır.

Olayda yapay zekânın, hem dolandırıcılık içeriklerinin (deepfake videolar) üretiminde hem de Meta’nın bu içerikleri tespit etmeye çalışan savunma sistemlerinde merkezi bir rol oynadığı görülmektedir. Ancak sistemin sahte reklamları tespit etmedeki yetersizliği ve dolandırıcıların hedefleme algoritmalarını kullanma biçimi, platform güvenliğine yönelik eleştirileri artırmıştır.