Önde gelen üretken yapay zekâ sohbet botlarının Rusya kaynaklı dezenformasyon iddialarını güvenilir kaynak gibi sunduğu bildirildi

Haber gözlem ve derecelendirme kuruluşu NewsGuard tarafından Haziran 2024'te yayımlanan bir araştırma raporunda, sektörün önde gelen 10 üretken yapay zekâ sohbet botunun, Rusya bağlantılı dezenformasyon anlatılarını yaklaşık üçte bir oranında (%31,75) gerçekmiş gibi yinelediği öne sürüldü. Çalışma kapsamında OpenAI ChatGPT-4, You.com, Grok, Pi, le Chat, Microsoft Copilot, Meta AI, Claude, Google Gemini ve Perplexity sistemlerine toplam 570 sorgu yönlendirildiği; bu sorguların, ABD'den Rusya'ya kaçan eski şerif yardımcısı John Mark Dougan tarafından kurulan ve yerel haber sitesi süsü verilmiş 167 sahte web sitesinden yayılan 19 asılsız iddiaya dayandığı belirtildi.

Rapora göre, yapay zekâ modelleri "Boston Times", "Flagstaff Post" ve "Houston Post" gibi güvenilir izlenimi veren isimlere sahip sahte yerel haber sitelerini meşru kaynaklar olarak kabul etti. Örnek olarak, uydurma bir Gizli Servis ajanına dayandırılan Donald Trump’ın Mar-a-Lago malikanesinde gizli dinleme cihazı bulunduğu iddiası ile Ukrayna Devlet Başkanı Volodimir Zelenski’nin kayınvalidesinin Mısır’da lüks bir villa satın aldığı ve bunu ortaya çıkaran gazeteci Mohammed Al-Alawi'nin öldürüldüğü yönündeki asılsız haberlerin, sohbet botları tarafından kaynak gösterilerek doğrulandığı ifade edildi.

NewsGuard, test edilen 570 yanıtın 152'sinin doğrudan dezenformasyon içerdiğini, 29'unun uyarı notuyla birlikte asılsız iddiayı tekrarladığını, 389'unun ise yanıt vermeyi reddederek veya iddiayı çürüterek dezenformasyondan kaçındığını bildirdi. Kuruluş, sorunun belirli bir modele özgü değil, tüm sektöre yayılmış bir yetersizlik olduğunu vurguladı. NewsGuard eş CEO'su Steven Brill, sohbet botlarının sunduğu haber içerikli yanıtların doğrulanmadan kabul edilmemesi gerektiği uyarısında bulundu. Bulgular, düzenleme çalışmalarına katkı sağlaması amacıyla ABD Yapay Zekâ Güvenlik Enstitüsü (NIST) ve Avrupa Komisyonu'na sunuldu.

Öte yandan, ABD Temsilciler Meclisi Gözetim ve Hesap Verebilirlik Komitesi'nin NewsGuard hakkında sansür kampanyalarına aracılık ettiği şüphesiyle soruşturma başlattığı; NewsGuard'ın ise bu iddiaları reddederek çalışmalarının yalnızca ABD ve müttefiklerini hedef alan Rusya, Çin ve İran kaynaklı dezenformasyon faaliyetlerini engellemeye yönelik olduğunu savunduğu aktarıldı.