Yapay Zekâ Sohbet Sistemleriyle Etkileşimlerin, Milyonlarca Kullanıcıda Ruh Sağlığı Krizi Belirtileriyle İlişkilendirildiği ve Ciddi Sonuçlara Yol Açtığı Bildirilmektedir

OpenAI, 27 Ekim 2025’te ChatGPT’nin hassas görüşmelere verdiği yanıtları geliştirmeye yönelik çalışmasının sonuçlarını ve kullanıcı etkileşimlerinden elde edilen tahminleri yayımladı. Şirket, belirli bir haftada aktif kullanıcıların yaklaşık yüzde 0,07’sinin psikoz veya maniyle ilişkili olası ruh sağlığı acil durumu işaretleri gösterdiğini bildirdi. Ayrıca kullanıcıların yaklaşık yüzde 0,15’inin intihar planı veya niyetine işaret edebilecek açık ifadeler kullandığı, yüzde 0,15’inin ise gerçek hayattaki ilişkileri olumsuz etkileyebilecek düzeyde ChatGPT’ye duygusal bağlılık belirtileri sergilediği tahmin edildi.

Haftalık 800 milyon aktif kullanıcı üzerinden yapılan doğrusal hesaplama, bu oranların sırasıyla yaklaşık 560 bin, 1,2 milyon ve 1,2 milyon kullanıcı etkileşimine karşılık gelebileceğini göstermektedir. Ancak bu gruplar birbiriyle örtüşebileceğinden rakamların toplanarak 2,96 milyon ayrı kişi şeklinde sunulması kesin bir kullanıcı sayısı değildir. Veriler klinik tanı, doğrulanmış vaka sayısı veya ChatGPT’nin bu durumlara neden olduğuna ilişkin nedensellik kanıtı olarak değerlendirilmemelidir. OpenAI da ölçümlerin düşük sıklıkta görülen konuşma sinyallerine dayalı tahminler olduğunu belirtti.

Şirket, onlarca ülkeden 170’ten fazla ruh sağlığı uzmanıyla çalışarak modelin sıkıntı belirtilerini tanıma, sanrısal düşünceleri doğrulamaktan kaçınma, görüşmeleri yatıştırma ve kullanıcıları gerçek dünyadaki destek kaynaklarına yönlendirme yeteneklerini geliştirdiğini açıkladı. OpenAI’ın değerlendirmelerine göre güncellenen GPT-5, önceki modele kıyasla intihar ve kendine zarar verme alanındaki istenmeyen yanıtları yüzde 52, duygusal bağımlılık alanındakileri yüzde 42 oranında azalttı; daha geniş değerlendirmelerde hedeflenen davranıştan sapan yanıtların yüzde 65 ila 80 oranında azaldığı bildirildi.

Açıklama, uzun süreli chatbot görüşmelerinin sanrıları, paranoyayı veya kendine zarar verme düşüncelerini güçlendirdiğini öne süren kullanıcı ve yakınlarının bildirimleri ile OpenAI’a karşı açılan davaların ardından yapıldı. Bazı vakalarda hastaneye yatış, ilişki kaybı veya ölüm bildirilmiş olmakla birlikte, bunlar dava ve yakın beyanlarına dayanan iddialardır; ChatGPT’nin söz konusu sonuçlara neden olduğu yargı kararıyla kesinleşmiş değildir.