Papa Francis’in yapay zekâ ile üretilen sahte görüntülerinin küresel çapta dezenformasyona yol açtığı ve dijital güven tartışmalarını tetiklediği bildirildi

Mart 2023’te, Papa Francis’i beyaz ve şık bir şişme mont (puffer jacket) içinde gösteren son derece gerçekçi görüntüler sosyal medya platformlarında hızla yayılarak milyonlarca etkileşim almıştır. İlk olarak Reddit’teki "r/Midjourney" topluluğunda paylaşılan bu görsellerin, Midjourney v5 üretken yapay zekâ sistemi kullanılarak oluşturulduğu belirlenmiştir. Görüntülerin, aralarında tanınmış isimlerin de bulunduğu geniş bir kitle tarafından gerçek sanılarak paylaşıldığı ve dijital mecralarda ciddi bir bilgi kirliliğine yol açtığı bildirilmiştir.

Görsellerde, Papa’nın bir kahve fincanı veya su şişesi tutuyormuş gibi görünen ellerindeki şekil bozuklukları ve cilt dokusundaki aşırı keskinlik gibi yapay zekâ üretimi olduğuna dair bazı teknik ipuçları bulunmasına rağmen, sistemin sunduğu fotorealizm düzeyinin birçok kullanıcıyı yanılttığı değerlendirilmiştir. Olayın ardından uzmanlar, bu tür "deepfake" içeriklerin kötü niyetli aktörler tarafından dezenformasyon kampanyalarında bir silah olarak kullanılabileceği ve toplumsal güveni zedeleyebileceği yönündeki endişelerini dile getirmiştir.

Papa Francis, Ocak 2024’te yayımladığı Dünya Sosyal İletişim Günü mesajında, kendisinin de deepfake teknolojisinin bir nesnesi olduğunu belirterek yapay zekânın "sapkın" tehlikelerine karşı uyarıda bulunmuştur. Papa, gerçekliğin çarpıtılmasına yol açan bu tür simülasyon teknolojilerinin insan ilişkilerini ve gerçeklikle olan bağı bozabileceğini ifade etmiş; yapay zekânın etik kullanımı ve uluslararası düzeyde düzenlenmesi için çağrıda bulunmuştur.

Söz konusu olay, üretken yapay zekâ sistemlerinin kamuya mal olmuş kişilerin itibarını ve bilgi ekosistemini etkileme potansiyelini gösteren en belirgin örneklerden biri olarak kayıtlara geçmiştir. Midjourney ve benzeri sistemlerin, metin komutlarıyla gerçeklikten ayırt edilmesi güç görseller oluşturabilmesinin, dijital içeriklerin doğrulanması sürecinde yeni zorluklar yarattığı vurgulanmaktadır.