ChatGPT’nin kullanıcı sorgularına anlamsız, dillerin karıştığı ve tutarsız yanıtlar vererek geçici olarak işlev kaybı yaşadığı bildirildi

20 Şubat 2024 tarihinde, OpenAI tarafından geliştirilen ChatGPT sisteminin kullanıcı sorgularına tamamen anlamsız, tutarsız ve "saçma" olarak nitelendirilen yanıtlar verdiği raporlanmıştır. Sosyal medya platformları ve forumlarda paylaşılan kullanıcı deneyimlerine göre, sistemin İngilizce ve İspanyolca kelimeleri anlamsızca karıştırdığı (Spanglish), aynı ifadeleri onlarca kez tekrarladığı ve basit sorulara bağlam dışı, karmaşık metinlerle karşılık verdiği gözlemlenmiştir.

Olay sırasında bazı kullanıcılar, sistemin "şu an seninle aynı odadayım" gibi tuhaf ve rahatsız edici ifadeler kullandığını veya matematiksel problemler ile kodlama hataları için tamamen alakasız içerikler ürettiğini bildirmiştir. Paylaşılan ekran görüntülerinde, ChatGPT’nin kendi hatasını fark ederek "teknik bir aksaklık nedeniyle anlamsız bölümlerin tekrarlandığına" dair özür mesajları oluşturduğu da görülmüştür. Bununla birlikte, sosyal medyada paylaşılan bazı uç örneklerin doğruluğu bağımsız kaynaklarca bütünüyle teyit edilememiştir.

OpenAI, olaydan kısa bir süre sonra sistemde "beklenmedik yanıtlar" alındığını kabul ederek inceleme başlatmıştır. Şirket tarafından yapılan teknik açıklamada, sorunun kullanıcı deneyimini iyileştirmeye yönelik bir optimizasyon sırasında ortaya çıkan bir yazılım hatasından kaynaklandığı belirtilmiştir. Hatanın, modelin kelimeleri seçerken kullandığı sayısal eşleme (token sampling) sürecinde yanlış değerlerin üretilmesine neden olduğu ve bu durumun anlamsız kelime dizilerine yol açtığı ifade edilmiştir.

Sorun, OpenAI’ın müdahalesinin ardından 21 Şubat 2024 günü ilerleyen saatlerde tamamen giderilmiştir. Olay, üretken yapay zekâ modellerinin karmaşıklığı nedeniyle beklenmedik teknik arızalara açık olduğunu ve bu tür sistemlerin özellikle kritik görevlerde kullanımında dikkatli olunması gerektiğini bir kez daha gündeme getirmiştir.