Yapay zekâ destekli sepsis uyarısının, diyaliz hastasında potansiyel olarak uygunsuz sıvı tedavisine yol açma riski

Nevada eyaletinin Henderson kentindeki St. Rose Dominican Hospital’da görev yapan hemşire Adam Hart, yaşlı bir kadın hastaya ait, yapay zekâ tarafından oluşturulmuş bir sepsis uyarısıyla karşılaştı. Hastanın tansiyonu tehlikeli derecede düşüktü ve hastanenin yapay zekâ sistemi, sepsis protokolünü devreye sokarak sorumlu hemşireyi acilen damar içi sıvı verilmesi yönünde yönlendirdi.

Ancak Hart, hastanın böbrek fonksiyonlarının zayıf olduğunu gösteren bir diyaliz kateteri bulunduğunu fark etti. Bu durumda rutin IV sıvı verilmesinin hastanın vücudunda aşırı yüklenmeye neden olabileceğini, hatta akciğerlerinde sıvı birikmesine yol açarak hayati risk oluşturabileceğini belirtti. Hart, yapay zekâ önerisine uymayı reddedince bir doktor devreye girdi ve tansiyonu yükseltmek için sıvı yerine dopamin verilmesini emretti. Böylece hastaya ek sıvı yüklenmeden müdahale edilmiş oldu.

Bu olay, sağlık hizmetlerinde yapay zekâ kullanımına dair daha geniş çaplı endişelere işaret ediyor. Hastaneler, aralarında Epic Sepsis Prediction Algorithm gibi sistemlerin de bulunduğu algoritmik modelleri yaygın şekilde kullanmaya başladı. Ancak sonraki değerlendirmeler, bu tür sistemlerin pazarlanandan çok daha düşük doğruluk oranlarına sahip olabildiğini gösterdi. Ülke genelinde birçok hemşire, doğruluğu yeterince kanıtlanmamış yapay zekâ araçlarına karşı temkinli yaklaşıyor; hatta Kaliforniya ve New York’ta bazıları protesto eylemleri düzenledi.

Rapor, yapay zekâ destekli izleme sistemlerinin sık sık yanlış alarmlar ürettiğini ve bu uyarıların hemşireler tarafından yorumlanmasının zor olduğunu belirtiyor. Bu durum, iş akışında aksamalara ve sağlık çalışanları arasında güvensizliğe yol açabiliyor.

Değişken koşullar altında güvenilir ve etkili şekilde çalışamayan yapay zekâ sistemleri; hatalara ve başarısızlıklara açık hale gelir. Bu tür sorunlar, özellikle kritik uygulamalarda veya etik muhakeme gerektiren alanlarda ciddi sonuçlar doğurabilir.