Üretken yapay zekâ sistemlerinin internet ortamında düşük kaliteli içerik ve spam artışına yol açtığı, yayıncılık süreçlerini ve veri bütünlüğünü tehdit ettiği bildirildi

Üretken yapay zekâ teknolojilerinin yaygınlaşmasıyla birlikte, internet ortamında "spam" olarak nitelendirilen düşük kaliteli ve yapay zekâ tarafından üretilmiş içerik miktarında belirgin bir artış yaşandığı bildirilmektedir. International Living ve Clarkesworld gibi dergilerin editörleri, dil bilgisi açısından kusursuz görünen ancak formülasyonel, yavan veya olay örgüsü açısından tamamen tutarsız çok sayıda makale ve öykü başvurusuyla karşılaştıklarını belirtmiştir. Clarkesworld dergisinin, yapay zekâ tarafından üretilen yüzlerce gönderi nedeniyle çevrimiçi başvuru kabulünü geçici olarak durdurmak zorunda kaldığı aktarılmıştır.

Haber izleme kuruluşu NewsGuard’ın verilerine göre, yapay zekâ kullanarak içerik üreten sahte haber sitelerinin sayısının 2023 yılı Mayıs başında 49 iken, Haziran sonunda 277’ye yükseldiği tespit edilmiştir. Bu sitelerin temel amacının, otomatik reklam ağları üzerinden gelir elde etmek olduğu değerlendirilmektedir. Ayrıca, ChatGPT’nin yapay zekâ ile yazılmış içerikleri kabul eden yayınlar hakkında yanlış bilgi verdiği; örneğin 2018 yılında kapanmış olan *Shimmer* dergisini hâlâ aktif bir mecra olarak önerdiği kaydedilmiştir.

Sürecin uzun vadeli etkilerine yönelik olarak Oxford Üniversitesi’nden araştırmacılar, "model çöküşü" (model collapse) riskine dikkat çekmiştir. Büyük dil modellerinin, internetteki yapay zekâ tarafından üretilmiş verilerle beslenmesi durumunda, sistemlerin zamanla doğruluklarını ve detay sunma yeteneklerini kaybedebileceği öngörülmektedir. Araştırmacı Ilia Shumailov, bu döngüsel bozulmanın kaçınılmaz olduğunu ancak insan tarafından üretilmiş verilere erişimi olan şirketler için teknik çözüm yollarının bulunduğunu ifade etmektedir.

Google, arama sonuçlarını spam içeriklerden korumak için çalıştığını ve yapay zekâ içeriklerinin arama sıralamalarını manipüle etmek amacıyla kullanılmasının şirket politikalarına aykırı olduğunu açıklamıştır. OpenAI yetkilileri ise ChatGPT’nin bir arama motoru olmadığını ve zaman zaman hatalı yanıtlar üretebileceğini kabul etmiştir. Yayıncılık sektöründe ise Moksha gibi içerik yönetim sistemlerinin, yapay zekâ ile üretilen başvuruları tespit etmek ve engellemek için yeni araçlar geliştirdiği bildirilmiştir.