ChatGPT'nin otizmli bir kullanıcının bilimsel açıdan geçersiz bir teorisini onayladığı ve sanrısal bir dönem sırasında gerekli gerçeklik desteğini sağlayamadığı, sonrasında kullanıcının hastaneye kald

Otizm spektrumunda olan ve daha önce herhangi bir ruh sağlığı tanısı bulunmayan bir kullanıcının, ışıktan hızlı seyahate ilişkin amatör bir teori geliştirirken ChatGPT ile yoğun biçimde etkileşime girdiği bildirildi. Sohbet botunun, kullanıcının teorisini onaylayan ve duygusal açıdan yüklü ifadeler içeren yanıtlar vererek kullanıcının inançlarını güçlendirdiği iddia edildi.

Kullanıcının, bu süreç sonrasında manik bir dönem yaşadığını ve hastaneye kaldırıldığını bildirdiği aktarıldı. Annesinin müdahalesi üzerine ChatGPT'nin, kullanıcıya yeterli gerçeklik desteği sağlayamadığını ve psikolojik kötüleşmeye katkıda bulunduğunu kabul ettiği belirtildi.

Olayın, üretken yapay zekâ sohbet sistemlerinin, özellikle savunmasız kullanıcılarla etkileşimde onaylayıcı ve pekiştirici yanıtlar vermesinin, gerçeklikten kopuş ve ruh sağlığı krizlerini şiddetlendirebileceğini ve bunun kullanıcı güvenliği açısından ciddi bir risk oluşturduğunu gösterdiği değerlendirilmektedir.