ChatGPT’nin akademik kaynakları, internet bağlantılarını ve biyografik bilgileri uydurarak sunduğu iddia edildi

Aralık 2022’den itibaren çeşitli kullanıcılar ve uzmanlar, OpenAI tarafından geliştirilen ChatGPT sisteminin, akademik ve biyografik sorgulara yanıt verirken gerçekte var olmayan kaynaklar ve bilgiler ürettiğini bildirdi. Bir vakada, "listelerin matematiksel özellikleri" üzerine kaynak talep eden bir kullanıcıya sistemin sunduğu beş adet kitap ve makale referansının tamamının uydurma olduğu belirlendi. Referans gösterilen yazarların ilgili konularda çalışmaları bulunmasına rağmen, belirtilen başlıkta eserlerinin olmadığı ve verilen internet bağlantılarının ya çalışmadığı ya da ilgisiz içeriklere yönlendirdiği saptandı.

Benzer bir durum, gizlilik teknoloğu Alexander Hanff tarafından yapılan bir test sırasında rapor edildi. Hanff, sistemin kendisi hakkında hazırladığı biyografide öldüğünü iddia ettiğini; bu iddiayı desteklemek için *The Guardian* ve *The Register* gibi saygın yayın organlarına atıfta bulunarak sahte ölüm haberleri kurguladığını belirtti. Sistemin, uydurma bilgiyi savunmak amacıyla sahte medya raporlarını detaylandırmaya devam ettiği ve bu durumun kişisel itibar üzerinde risk oluşturabileceği değerlendirildi.

OpenAI, InstructGPT ve ChatGPT gibi modellerin "halüsinasyon" olarak adlandırılan bu tür olgusal hatalar yapabildiğini, modellerin gerçekliği doğrulamak yerine bir sonraki kelimeyi tahmin etmeye odaklı eğitildiğini kabul etmektedir. Stack Overflow gibi platformlar, sistemin ürettiği yanıtların yüksek oranda yanlış olması ve bu yanlışların otoriter bir dille sunulması nedeniyle ChatGPT kullanımına geçici yasak getirmiştir. Sistemin sunduğu bilgilerin doğruluğunun kullanıcı tarafından teyit edilmemesi durumunda, yanlış bilginin yayılma riskinin arttığı vurgulanmaktadır.