Yapay Zekâ Tabanlı Tıbbi Tavsiyelerin, Hastalar Tarafından Uygulanması Sonucu Ciddi Sağlık Kayıplarına Yol Açtığı Bildirilmektedir

Annals of Internal Medicine: Clinical Cases dergisinde yayımlanan vaka raporunda, 60 yaşındaki bir erkeğin sofra tuzunu beslenmesinden çıkarmaya çalışırken üç ay boyunca sodyum klorür yerine internetten satın aldığı sodyum bromürü tükettiği bildirildi. Hasta, acil servise komşusunun kendisini zehirlediğine ilişkin paranoid düşüncelerle başvurdu; daha sonra işitsel ve görsel varsanılar, uykusuzluk, yorgunluk, aşırı susama, koordinasyon bozukluğu ve yüzde akne benzeri lezyonlar geliştirdi. Hastaya bromür toksisitesi olarak bilinen bromizm tanısı konuldu.

Hasta, klorürü beslenmesinden nasıl çıkarabileceği konusunda ChatGPT’ye danıştığını ve aldığı bilgiler üzerine sodyum bromürü tuz yerine kullanmaya başladığını belirtti. Bununla birlikte araştırmacılar hastanın özgün sohbet kayıtlarına erişemediğinden, ChatGPT’nin kullandığı kesin ifadeleri, sorunun nasıl yöneltildiğini veya sodyum bromürün doğrudan tüketilmesini önerip önermediğini doğrulayamadı. Bu nedenle olay, ChatGPT’nin kesin biçimde tıbbi talimat verdiği bir vaka olarak değil, sistemden alınan bağlamsız bilginin hasta tarafından beslenme önerisi şeklinde yorumlandığı bildirilen bir olay olarak değerlendirilmelidir.

Vaka yazarları, daha sonra ChatGPT 3.5’e klorürün hangi maddelerle değiştirilebileceğini sorduklarında bromürü olası seçenekler arasında gösteren, ancak kullanım amacı hakkında açıklama istemeyen ve sağlık risklerini yeterince belirtmeyen bir yanıt aldıklarını bildirdi. Bu yeniden üretim denemesi hastanın gördüğü özgün yanıtı kanıtlamamakla birlikte, sistemin kimyasal benzerlik bilgisini beslenme bağlamından ayırmadan sunabilme riskini ortaya koydu.

Hastanın serum bromür düzeyinin normal aralığın çok üzerinde olduğu ve yaklaşık üç hafta hastanede kaldığı aktarıldı. Tedavi kapsamında sodyum bromür alımı durduruldu; sıvı ve elektrolit desteği sağlandı ve psikiyatrik belirtiler için ilaç tedavisi uygulandı. Hastanın klinik durumunun tedavi sonrasında düzeldiği bildirildi.

Olay, genel amaçlı üretken yapay zekâ sistemlerinden alınan sağlık bilgilerinin profesyonel tıbbi değerlendirme olmadan uygulanmasının ciddi zarar oluşturabileceğini göstermektedir. Bununla birlikte vaka raporu, ChatGPT’nin hastalığın tek veya doğrudan nedeni olduğunu ortaya koymamaktadır; zararın oluşumunda hastanın sodyum bromürü üç ay boyunca tüketmesi ve yapay zekâ çıktısını tıbbi öneri olarak yorumlaması belirleyici olmuştur.