Türkiye-Suriye depremi bağış kampanyalarında yapay zekâ üretimi görsellerin dezenformasyon ve dolandırıcılık amacıyla kullanıldığı bildirildi

Şubat 2023’te gerçekleşen Türkiye-Suriye depremlerinin ardından, kötü niyetli kişilerin sosyal medya platformları üzerinden sahte bağış kampanyaları düzenleyerek finansal kazanç elde etmeye çalıştığı bildirildi. BBC tarafından yapılan incelemede, özellikle Twitter (X) ve TikTok gibi platformlarda, depremzedelere yardım toplama adı altında paylaşılan içeriklerin bir kısmında yapay zekâ tarafından üretilmiş sentetik görsellerin kullanıldığı tespit edildi.

Vaka kapsamında öne çıkan bir örnekte, yıkıntılar arasında küçük bir çocuğu kurtaran bir itfaiyeciyi gösteren duygusal bir görselin, kripto para cüzdan adresleriyle birlikte paylaşılarak bağış toplamak için kullanıldığı görüldü. Söz konusu görselin, Yunanistan Ege İtfaiye Teşkilatı Tümgenerali Panagiotis Kotridis tarafından Midjourney yazılımı kullanılarak oluşturulduğu; ancak daha sonra farklı hesaplarca gerçek bir operasyon anıymış gibi sunulduğu belirlendi. Görseldeki itfaiyecinin sağ elinde altı parmak bulunması gibi yapay zekâ sistemlerine özgü hataların, içeriğin sentetik doğasına dair kanıt teşkil ettiği değerlendirildi.

İlgili Twitter hesaplarından birinin sahibi, BBC ile yaptığı görüşmede dolandırıcılık iddialarını reddederek amacının yardım etmek olduğunu savunmuş; ancak kimlik bilgisi veya toplanan fonların kullanımına dair herhangi bir makbuz sunamamıştır. Ayrıca, paylaşılan kripto para adreslerinden birinin 2018 yılından bu yana farklı spam faaliyetlerinde kullanıldığı, diğerinin ise Rus sosyal medya platformu VK üzerinde uygunsuz içeriklerle ilişkilendirildiği saptanmıştır.

Olayın ardından PayPal ve Twitter gibi platformların, bildirilen bazı şüpheli hesapları askıya aldığı açıklandı. Bu vaka, kriz ve afet dönemlerinde üretken yapay zekâ sistemlerinin, kamuoyunun duygusal hassasiyetini istismar eden dezenformasyon ve finansal dolandırıcılık faaliyetlerini kolaylaştırıcı bir araç olarak kullanılabileceğini göstermektedir.