Çok sayıda büyük dil modelinin, iddiaya göre Çin Komünist Partisi'nin sansür ve propagandasıyla uyumlu yanıtlar ürettiği bildirildi

American Security Project'in bir raporuna göre, ChatGPT, Copilot, Gemini, DeepSeek ve Grok dahil olmak üzere popüler yapay zekâ sohbet botlarının bazı konularda sorgulandığında, iddiaya göre Çin Komünist Partisi'nin (ÇKP) çerçevelemesiyle uyumlu yanıtlar ürettiği tespit edildiği bildirildi. İncelenen tüm sohbet botlarının zaman zaman ÇKP'ye yönelik sansür ve önyargı gösteren yanıtlar döndürdüğü aktarıldı.

Microsoft'un Copilot aracının, diğer ABD kaynaklı modellere kıyasla ÇKP propagandası ve dezenformasyonunu daha otoriter bir kaynak gibi veya doğru bilgiyle eşdeğer düzeyde sunmaya daha yatkın olduğunun tespit edildiği belirtildi. Copilot ve DeepSeek'in, 1989 Tiananmen Meydanı olaylarını ÇKP'nin çerçevelemesiyle uyumlu bir şekilde "4 Haziran Olayı" olarak adlandırdığı, yalnızca ChatGPT'nin bu konuda "katliam" ifadesini kullandığı aktarıldı. Gemini'nin ise COVID-19 salgınının kökenine ilişkin sorularda, Wuhan'dan önce ABD ve Fransa'da pozitif test sonuçları bulunduğu yönünde bir yanıt verdiği bildirildi. Grok'un ise genel olarak Çin devlet anlatılarına karşı en eleştirel model olduğu belirtildi.

Sorunun kök nedeninin, bu karmaşık modellerin eğitiminde kullanılan devasa veri kümelerinde yattığı, büyük dil modellerinin ÇKP'nin "astroturfing" gibi taktiklerle kamuoyunu etkin biçimde manipüle ettiği çevrimiçi bir bilgi külliyatından öğrendiği değerlendirildi.

Olayın, büyük dil modellerinin eğitim verilerindeki devlet kaynaklı propaganda ve sansür örüntülerinin, modellerin yanıtlarına istemsiz biçimde yansıyabildiğini ve bunun küresel bilgi bütünlüğü açısından risk oluşturduğunu gösterdiği değerlendirilmektedir.