Göğüs röntgeni analizinde kullanılan yapay zekâ modellerinin ırksal, cinsiyet temelli ve sosyoekonomik önyargılar barındırdığı saptandı

Toronto Üniversitesi, Vector Enstitüsü ve MIT’den araştırmacıların yürüttüğü çalışma, göğüs röntgenlerini analiz ederek kırık veya akciğer sönmesi gibi durumları teşhis etmek için geliştirilen yapay zekâ sistemlerinin, eğitim verilerindeki dengesizlikler nedeniyle belirli gruplara karşı önyargılı olduğunu ortaya koydu. Google, Qure.ai, Aidoc ve DarwinAI gibi kuruluşlarca geliştirilen sistemlerin temelini oluşturan MIMIC-CXR, CheXpert ve NIH Chest-Xray gibi geniş kapsamlı kamuya açık veri setlerinin incelendiği bildirildi.

Araştırma sonuçlarına göre, incelenen tüm veri setlerinde "anlamlı" düzeyde önyargı ve dengesizlik örüntüleri saptandı. Modellerin beyaz hastaları (verilerin %67,6’sı) öncelediği, kadın hastaların ise en yüksek düzeyde eşitsizliğe (disparity) maruz kalan grup olduğu belirlendi. Ayrıca, Medicaid sigortasına sahip düşük gelirli hastaların sistemler tarafından daha sık yanlış teşhis edildiği ve Hispanik kökenli hastaların da benzer şekilde dezavantajlı olduğu aktarıldı. Araştırmacılar, bu durumun sağlık hizmetlerine erişimdeki mevcut toplumsal eşitsizliklerin ve veri toplama süreçlerindeki istatistiksel gürültülerin yapay zekâ modellerine aktarılması sonucu oluşabileceğini değerlendirmektedir.

Çalışmada bazı kısıtlılıklar olduğu da ifade edildi. Veri setlerindeki teşhis etiketlerinin doğal dil işleme (NLP) yöntemleriyle radyoloji raporlarından çıkarılmış olmasının hata payı barındırabileceği; ayrıca görüntüleme cihazlarının kalitesi ve veri toplama bölgelerinin demografik yapısının sonuçları etkilemiş olabileceği belirtildi. Bununla birlikte araştırmacılar, klinik kullanım öncesinde titiz bir hakkaniyet analizi yapılması ve veri setlerindeki olası önyargılar hakkında açık uyarılar yayınlanması gerektiğini vurguladı.