COVID-19 teşhisi ve triyajı için geliştirilen yüzlerce yapay zekâ aracının klinik kullanıma uygun olmadığı ve potansiyel riskler taşıdığı bildirildi

Pandemi döneminde hastanelerdeki iş yükünü hafifletmek amacıyla geliştirilen yüzlerce yapay zekâ aracının, klinik beklentileri karşılayamadığı öne sürüldü. Turing Enstitüsü, British Medical Journal (BMJ) ve Nature Machine Intelligence’da yayımlanan incelemeler; incelenen 232 teşhis algoritması ile 415 derin öğrenme modelinin neredeyse hiçbirinin klinik kullanıma uygun olmadığını ortaya koydu.

Araştırmacılar, bu başarısızlığın temelinde düşük kaliteli veri setleri ve metodolojik hataların yattığını belirtti. Bazı modellerin COVID-19 belirtilerini saptamak yerine, veri setindeki hatalar nedeniyle çocuk hastaların akciğerlerini veya belirli hastanelerin kullandığı yazı tiplerini ayırt etmeyi öğrendiği saptandı. Ayrıca, hastaların röntgen çekilirkenki pozisyonu (ayakta veya yatarak) gibi unsurların, sistemler tarafından yanlışlıkla hastalık şiddeti göstergesi olarak kodlandığı görüldü.

Araştırmanın başyazarlarından Laure Wynants, bu araçların bir kısmının hastanelerde kullanılmış veya pazarlanmış olması nedeniyle hastalara zarar vermiş olabileceğine dair endişesini dile getirdi. Ancak, hastaneler ile tedarikçiler arasındaki gizlilik sözleşmeleri ve şeffaflık eksikliği nedeniyle, bu sistemlerin gerçek dünyadaki etkilerinin ve olası klinik zararlarının boyutu bütünüyle doğrulanamamaktadır.

Olay, tıbbi yapay zekâ geliştirme süreçlerinde klinik uzmanlık ile teknik becerilerin koordinasyon eksikliğini ortaya koymaktadır. İncelemeyi yürüten ekipler, modellerin çoğunun benzer hataları tekrarladığını ve akademik yayın telaşının klinik gerçeklerin önüne geçtiğini bildirdi.