Helene Kasırgası sonrası üretken yapay zekâ ile oluşturulan sahte görsellerin dezenformasyona ve kamu güveni kaybına yol açtığı bildirildi

2024 yılı Eylül ayı sonunda ABD’nin güneydoğu eyaletlerini etkileyen Helene Kasırgası’nın ardından, üretken yapay zekâ tarafından oluşturulan çok sayıda sahte görselin sosyal medya platformlarında hızla yayıldığı bildirildi. Özellikle kucağında bir köpekle sel suları içinde ağlayan küçük bir kız çocuğunu gösteren görsellerin milyonlarca etkileşim aldığı; ancak dikkatli incelendiğinde görsellerdeki çocuğun parmak sayısındaki tutarsızlıklar, fazla burun delikleri ve farklı karelerde değişen bot yapıları gibi yapay zekâ üretim hataları taşıdığı tespit edildi.

Söz konusu sahte içeriklerin yalnızca bireysel kullanıcılar tarafından değil, aralarında Utah Senatörü Mike Lee’nin de bulunduğu kamu figürleri tarafından paylaşıldığı, durumun fark edilmesi üzerine paylaşımların silindiği aktarıldı. Bu görsellerin bir kısmının, federal yardımların başka alanlara aktarıldığı yönündeki siyasi iddiaları desteklemek amacıyla kullanıldığı; uzmanlarca bu tür içeriklerin genel olarak sahte bağış kampanyalarıyla finansal dolandırıcılık yapmak amacıyla kullanılabileceği uyarısı yapıldı. Uzmanlar, bu tür sentetik medyanın afet anlarında doğru bilgiye ulaşması gereken halk ve ilk müdahale ekipleri için "bilgi kirliliği" yarattığını değerlendirmektedir.

Federal Acil Durum Yönetim Kurumu (FEMA), yayılan dezenformasyonla mücadele etmek amacıyla resmi web sitesinde bir "Söylenti Kontrolü" sayfası açmak zorunda kaldı. Kurum, sahte görsellerin ve beraberinde yayılan asılsız iddiaların, afetzedelerin yardıma erişimini zorlaştırabileceği ve kamu kurumlarına olan güveni zedeleyebileceği uyarısında bulundu. Ayrıca, Better Business Bureau (BBB) gibi kuruluşlar, yapay zekâ ile oluşturulan duygusal görsellerin kullanıcıları sahte yardım kuruluşlarına yönlendirmek için birer "sosyal mühendislik" aracı olarak kullanılabileceğine dikkat çekti.

Olayın uzun vadeli etkileri üzerine çalışan iletişim uzmanları, sahte afet görsellerine sürekli maruz kalmanın toplumda "merhamet yorgunluğu" ve "duyarsızlaşma" yaratabileceğini, bunun da gelecekteki gerçek krizlerde insani yardım motivasyonunu düşürebileceğini ileri sürmektedir. Görsellerin hangi spesifik yapay zekâ modelleriyle üretildiği ve tüm paylaşımların arkasındaki asıl motivasyonun (siyasi manipülasyon, etkileşim alma veya dolandırıcılık) ne olduğu her vaka için bağımsız olarak bütünüyle doğrulanamamıştır.