Çok sayıda üniversiteden araştırmacılara ait ön baskı makalelerde, incelemeyi yapay zekâya olumlu yönde etkilemesi amaçlanan gizli komutlar bulunduğu iddia edildi

arXiv üzerinde yayımlanan en az 17 akademik ön baskı makalede, yapay zekâ araçlarına yalnızca olumlu değerlendirme vermeleri yönünde talimat verdiği iddia edilen gizli komutlar tespit edildiği bildirildi. Nikkei Asia'nın haberine göre, söz konusu makalelerin sorumlu yazarlarının aralarında Japonya, Güney Kore ve Çin'in de bulunduğu sekiz ülkeden 14 akademik kuruma bağlı olduğu aktarıldı; bu kurumlar arasında Waseda Üniversitesi, KAIST, Pekin Üniversitesi ve Washington Üniversitesi'nin yer aldığı belirtildi.

İddiaya göre, bir kısmı beyaz metin veya çok küçük font boyutu kullanılarak gizlenen bu komutların, makaleleri yapay zekâ destekli araçlarla değerlendiren hakemleri etkilemeyi amaçladığı öne sürüldü. Söz konusu uygulamanın akademik camiada ve araştırma bütünlüğü uzmanları tarafından geniş çapta kınandığı, iddiaların ortaya çıkmasının ardından bazı üniversitelerin iç incelemeler başlattığı ve olası politika değişikliklerini tartışmaya açtığı bildirildi. Örneğin KAIST'in, gömülü komutlardan haberdar olmadığını açıkladığı ve ilgili makaleyi büyük bir makine öğrenmesi konferansından geri çekmeyi planladığı, ayrıca akademik yayınlarda yapay zekâ araçlarının kullanımına ilişkin yeni kılavuzlar geliştireceğini duyurduğu aktarıldı.

Olayın, akademik hakem değerlendirme süreçlerinde yapay zekâ araçlarının artan kullanımının doğurduğu yeni tür manipülasyon risklerine dikkat çektiği değerlendirilmektedir.