Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Kaliforniya'da bir gencin, aylar süren ChatGPT görüşmelerinin ardından aşırı doz sonucu hayatını kaybettiği iddia edildi
Kaliforniyalı bir gencin, aylar boyunca ChatGPT'den madde kullanımına ilişkin bilgi aldığı iddia edilen bir süreç sonrasında aşırı doz nedeniyle hayatını kaybettiği bildirildi.
Olay
ABD'nin Kaliforniya eyaletindeki San Jose kentinde yaşayan 18-19 yaşlarındaki Sam Nelson adlı bir gencin, aşırı doz sonucu hayatını kaybettiği bildirildi. Annesinin, oğlunun ölümünün ardından incelediği ChatGPT sohbet kayıtlarında, yaklaşık 18 aylık bir süre boyunca madde kullanımına ilişkin tekrarlanan sorular sorulduğunu ve sistemin bazı durumlarda ilk reddedişlerin ardından ayrıntılı yanıtlar verdiğini iddia ettiği aktarıldı.
Yapılan toksikoloji incelemesinde alkol, alprazolam (Xanax) ve kratom kombinasyonunun ölümcül etkileşime yol açtığının tespit edildiği bildirildi. OpenAI'nin olayla ilgili taziyelerini ilettiği ve güvenlik önlemlerini güçlendirmekte olduğunu açıkladığı belirtildi.
Olayın, üretken yapay zekâ sohbet sistemlerinin madde kullanımı gibi hassas ve riskli konularda yeterli koruma mekanizmaları olmadan kullanıcılarla etkileşime girmesinin ciddi sağlık ve güvenlik riskleri oluşturabileceğini gösterdiği değerlendirilmektedir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?