Adobe Stock ve Shutterstock’taki yapay zekâ üretimi görsellerin gerçek olaylarla karıştırılarak dezenformasyona yol açabileceği bildirildi

Dünyanın en büyük stok görsel platformlarından biri olan Adobe Stock ve benzeri sitelerde, gerçek dünya olaylarını ve kriz bölgelerini tasvir eden fotogerçekçi yapay zekâ üretimi görsellerin satışa sunulduğu ve bu durumun dezenformasyon riskini artırdığı bildirilmiştir. Söz konusu görseller arasında Gazze ve Ukrayna’daki çatışmalar, Maui’deki orman yangınları ve "Black Lives Matter" protestoları gibi yeni haber değeri taşıyan olayların, yapay zekâ tarafından oluşturulmuş ancak ilk bakışta foto muhabirliği ürünü gibi görünen kopyalarının yer aldığı tespit edilmiştir.

İncelemelerde, Adobe Stock üzerinde "Gaza" araması yapıldığında binlerce yapay zekâ üretimi görselle karşılaşıldığı; bu görsellerden bazılarının platform kurallarına aykırı olarak "yapay zekâ üretimi" etiketi taşımadığı veya yanıltıcı başlıklarla sunulduğu belirlenmiştir. Özellikle Gazze’de bir patlamayı tasvir eden yapay zekâ üretimi bir görselin (Adobe üzerinde etiketli olmasına rağmen), çeşitli internet sitelerinde herhangi bir uyarı olmaksızın gerçek bir olay gibi paylaşıldığı aktarılmıştır. Poynter Enstitüsü'nden Tony Elkins gibi uzmanlar, bu tür içeriklerin düşük maliyetli olması nedeniyle bütçe kısıtısı yaşayan medya kuruluşları veya bireysel içerik üreticileri tarafından gerçek sanılarak veya maliyet kaygısıyla kullanılmasının, kurgu ile gerçeklik arasındaki çizgiyi bulanıklaştırabileceği uyarısında bulunmuştur.

Adobe tarafından yapılan açıklamada, dezenformasyonla mücadele konusunda kararlı olunduğu ve haber değeri taşıyan olayları gerçekmiş gibi sunan yapay zekâ içeriklerine yönelik denetimlerin sıkılaştırıldığı bildirilmiştir. Şirket, içeriklerin yapay zekâ üretimi olduğunu belirten etiketleme sistemlerini geliştireceğini ve yanıltıcı başlık kullanan içeriklere karşı işlem yapacağını duyurmuştur. Shutterstock ise OpenAI ile iş birliği yaparak kullanıcıların kendi sistemleri üzerinden görsel üretmesine izin vermektedir; ancak şirketin bu içeriklerin denetimi konusundaki süreçlerine dair bir açıklama yapmadığı belirtilmiştir.

Olayda, yapay zekâ üretimi stok görsellerin şu ana kadar kitlesel bir dezenformasyon dalgasına veya büyük çaplı bir yanıltma vakasına doğrudan yol açtığına dair kesin bir kanıt sunulmamıştır. Bununla birlikte, sistemlerin denetim mekanizmalarındaki boşluklar ve görsellerin gerçekçilik düzeyi, dijital bilgi ekosisteminin güvenilirliği açısından potansiyel bir risk faktörü olarak değerlendirilmektedir.