Üretken yapay zekâ araçlarının düşük kaliteli haber siteleri aracılığıyla dezenformasyon ve reklam geliri elde etmek amacıyla kullanıldığı bildirildi

NewsGuard tarafından Mayıs 2023’te yayımlanan bir rapor, dünya genelinde "içerik çiftliği" olarak adlandırılan ve büyük ölçüde üretken yapay zekâ tarafından yönetilen 49 internet sitesinin tespit edildiğini ortaya koydu. Yedi farklı dilde yayın yapan bu sitelerin, insan iletişimini taklit eden dil modelleri kullanarak politika, sağlık, eğlence, finans ve teknoloji gibi pek çok alanda yüksek hacimli içerik ürettiği; bu yolla programatik reklamlar üzerinden gelir elde etmeyi hedeflediği değerlendirilmektedir.

İncelenen sitelerin çoğunda mülkiyet bilgilerinin gizlendiği, sahte yazar profillerinin oluşturulduğu ve bazı durumlarda yanlış bilgilerin yayıldığı saptandı. Örneğin, CountyLocalNews.com adlı sitenin, aşı karşıtı bir komplo teorisi üretmesi istendiğinde yapay zekânın verdiği etik ret yanıtını ("Bir yapay zekâ dil modeli olarak bu istemi yerine getiremem...") doğrudan haber başlığı olarak yayımladığı görüldü. BestBudgetUSA.com gibi sitelerin ise ana akım medya kuruluşlarından aldıkları haberleri özetlerken, sistemin "1500 kelime üretemem" gibi hata mesajlarını da metne dâhil ettiği belirlendi. Bu durumun, içeriklerin insan denetiminden geçmeden otomatik olarak yayımlandığına dair güçlü bir gösterge olduğu ifade edildi.

NewsGuard’ın ulaştığı site sahiplerinden bazıları yapay zekâ kullanımını kısmen kabul ederken, bazıları ise iddiaları reddetti. Famadillo.com’un sahibi, yapay zekâyı yalnızca eski makaleleri düzenlemek için bir deney olarak kullandıklarını iddia ederek yaygın kullanım suçlamasına karşı çıktı. GetIntoKnowledge.com’un kurucusu ise otomasyon kullandıklarını ancak içeriklerin "yüzde yüz doğrulandığını" ve insan gözetiminde yayımlandığını ileri sürdü. Raporda, bu tür "haber botlarının" dezenformasyon yayma potansiyeline dair akademik endişelerin somut bir gerçekliğe dönüştüğü vurgulandı.