Rusya merkezli "Pravda" ağının dezenformasyon içerikleriyle Batılı yapay zekâ sohbet botlarını manipüle ettiği öne sürüldü

NewsGuard ve American Sunlight Project (ASP) tarafından yayımlanan raporlarda, Moskova merkezli "Pravda" (Portal Kombat olarak da bilinir) adlı dezenformasyon ağının, Batılı yapay zekâ sistemlerini pro-Kremlin propagandasıyla etkilemek amacıyla sistematik bir faaliyet yürüttüğü bildirilmiştir. Ağın, 2024 yılında yaklaşık 3,6 milyon makale yayımlayarak arama motoru sonuçlarını ve web tarayıcılarını (crawler) dezenformasyonla doldurduğu; bu yolla büyük dil modellerinin (LLM) bilgi işleme süreçlerini manipüle etmeyi hedeflediği öne sürülmektedir.

NewsGuard tarafından gerçekleştirilen bir denetimde, aralarında ChatGPT, Gemini ve Copilot’un da bulunduğu 10 önde gelen sohbet botunun, Pravda ağı tarafından yayılan yanlış anlatıları vakaların yaklaşık %33’ünde tekrarladığı tespit edilmiştir. İncelenen sistemlerin %48 oranında bu iddiaları çürüttüğü, %18’inde ise yanıt vermediği aktarılmıştır. Bazı modellerin, dezenformasyon içerikli makaleleri doğrudan kaynak olarak gösterdiği de bulgular arasında yer almaktadır.

"LLM grooming" (büyük dil modellerini yönlendirme/besleme) olarak adlandırılan bu stratejinin, yapay zekâ modellerinin eğitim verilerini ve gerçek zamanlı bilgi kaynaklarını manipüle ederek sistem çıktılarını Rusya lehine değiştirmeyi amaçladığı değerlendirilmektedir. Fransız dezenformasyon izleme ajansı Viginum, ağın Kırım merkezli TigerWeb adlı bir bilişim şirketi tarafından yönetildiğini belirlemiştir. Yayılmaya çalışılan iddialar arasında Ukrayna’daki biyolojik silah laboratuvarları ve devlet yetkililerine yönelik asılsız yolsuzluk suçlamalarının bulunduğu bildirilmiştir.

Raporlarda, yapay zekâ şirketlerinin bu tür geniş ölçekli veri kirliliğiyle mücadele etmekte zorlandığı ve sistemlerin ikna edici tonu nedeniyle kullanıcıların bu yanlış bilgilere aşırı güven duyabileceği uyarısı yapılmıştır. Bununla birlikte, her bir modelin dezenformasyona karşı direnci ve algoritmik filtreleme kapasitesi, şirketlerin veri setlerinin kapalı yapısı nedeniyle bağımsız kaynaklarca bütünüyle denetlenememektedir.