Dünya Sağlık Örgütü’nün yapay zekâ asistanı SARAH’ın tutarsız tıbbi tavsiyeler verdiği ve acil durumlarda yetersiz kaldığı iddia edildi

Dünya Sağlık Örgütü (DSÖ) tarafından sağlıklı yaşam alışkanlıkları konusunda rehberlik etmek üzere geliştirilen SARAH adlı yapay zekâ sohbet botunun, kullanıcı sorgularına tutarsız yanıtlar verdiği öne sürüldü. Politico tarafından yapılan testlerde, sistemin bazen hızlı ve başarılı yanıtlar vermesine rağmen, aynı tıbbi sorgulara farklı zamanlarda çelişkili cevaplar verdiği ve kritik durumlarda beklenen yönlendirmeyi yapamadığı gözlemlendi.

İncelemede, göğüs ağrısı gibi acil semptomlar bildirildiğinde sistemin önce yerel sağlık kuruluşu bilgilerini paylaşmayı teklif ettiği, ancak ardından beklenmedik şekilde tütün kullanımını bırakmanın faydaları gibi konulara odaklandığı ve tekrar sorulduğunda iletişim bilgilerini sağlayamadığı aktarıldı. Ayrıca, ruh sağlığı krizleri ve intihar düşüncesiyle ilgili sorgularda SARAH’ın yalnızca ABD’ye özgü yardım hattı numaralarını sunduğu; bu durumun küresel kullanıcı kitlesi için bir eksiklik olduğu değerlendirildi.

Hollanda merkezli savunuculuk grubu Health Action International, DSÖ’ye yazdığı mektupta sistemin düşük kaliteli yanıtlar ve bozuk internet bağlantıları sunduğunu belirterek botun yayından kaldırılması çağrısında bulundu. DSÖ Dijital Sağlık ve İnovasyon Departmanı Direktörü Alain Labrique ise geri bildirimlerin sistemin iyileştirilmesi ve yapay zekânın sağlık alanındaki rolünün anlaşılması için değerli olduğunu ifade ederek aracın geliştirilmeye devam edileceği mesajını verdi.

Politico incelemesinde, sistemle etkileşim süresi arttıkça yanıt kalitesinin iyileşebildiği not edilmekle birlikte, mevcut haliyle sistemin güvenilirliği konusundaki eleştirilerin sürdüğü belirtildi.