Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Bilimsel makalelerde ortaya çıkan anlamsız "vegetative electron microscopy" (bitkisel elektron mikroskobu) ifadesinin, yapay zekâ eğitim verisindeki bir kirlenmeden kaynaklandığı ileri sürüldü.
Araştırmacılar, bilimsel makalelerde tekrarlanan anlamsız "vegetative electron microscopy" ifadesinin büyük dil modellerinin eğitim verisindeki bir kirlenmeden kaynaklandığını iddia etti.
Olay
Araştırmacılar, bilimsel yayınlarda tekrar tekrar karşılaşılan ve anlamsal olarak geçersiz olan "vegetative electron microscopy" ifadesinin kökenini araştırdıklarını ve bu hatanın 1950'li yıllara ait bilim metinlerinin dijitalleştirilmesi sırasında iki farklı sütundaki "vegetative" ve "electron microscopy" kelimelerinin yanlışlıkla birleştirilmesinden kaynaklandığını iddia etti. Farsça'da "vegetative" ve "taramalı" (scanning) kelimelerinin yalnızca bir nokta işaretiyle ayrıldığı, bu nedenle 2017 ve 2019 yıllarında yayımlanan bazı makalelerdeki bir çeviri hatasının ifadeyi yeniden canlandırmış olabileceği belirtildi.
2025 yılında yapılan testlerde, GPT-3, GPT-4, GPT-4o ve Claude 3.5 gibi büyük dil modellerinin, muhtemelen Common Crawl üzerinden eğitim verisine sızan bu kirlenme nedeniyle söz konusu anlamsız ifadeyi ürettiği bildirildi. Bu durumun, hatalı bir ifadenin yapay zekâ modelleri aracılığıyla bilimsel literatürde kalıcı hale gelme riskine işaret ettiği değerlendirildi. Elsevier gibi bazı yayıncıların ifadenin kullanımını savunduğu, buna karşın bilim camiasında ifadenin bir "dijital fosil" haline geldiği yönünde eleştiriler yöneltildiği aktarıldı.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?