Kaliforniya’nın aşı dağıtım algoritmasının, posta kodu tabanlı hesaplama nedeniyle yaklaşık 2 milyon ihtiyaç sahibi kişiyi 'ek aşı tedariki' kapsamı dışında bırakabileceği öne sürüldü

Kuzey Kaliforniya Amerikan Sivil Özgürlükler Birliği (ACLU) tarafından yayımlanan bir analizde, eyaletin COVID-19 aşı dağıtımında hakkaniyeti sağlamak amacıyla kullandığı algoritmanın, tasarımındaki teknik tercihler nedeniyle milyonlarca dezavantajlı kişiyi ek aşı tedariki noktasında mağdur edebileceği iddia edildi. Eyalet yönetiminin, pandemiden en çok etkilenen bölgeleri belirlemek için "Sağlıklı Yerler Endeksi" (HPI) skorlarını kullandığı; ancak Blue Shield tarafından geliştirilen algoritmanın, verileri daha hassas olan "nüfus sayım alanları" (census tracts) yerine "posta kodları" (ZIP codes) bazında işlediği belirtildi.

Analize göre, posta kodları coğrafi olarak geniş alanları kapsadığı için düşük gelirli mahalleler ile varlıklı yerleşim yerlerini aynı potada eritebilmektedir. Bu durumun, düşük HPI skoruna sahip ve önceliklendirilmesi gereken mahallelerin, aynı posta kodundaki yüksek gelirli grupların verileriyle dengelenerek ek tedarik listesinde "görünmez" hale gelmesine neden olduğu savunuldu. İnceleme sonucunda, en riskli %25’lik dilimde yer almasına rağmen posta kodu temelli hesaplama nedeniyle ek aşı tedariki kapsamı dışında kalabileceği hesaplanan kişi sayısının yaklaşık 2 milyon olduğu bildirildi.

Söz konusu durumdan etkilenen nüfusun orantısız bir şekilde Latin kökenli ve siyah topluluklardan oluştuğu aktarıldı. Eyalet yetkililerinin, nüfus sayım alanları yerine posta kodlarını kullanmanın operasyonel açıdan daha basit olduğunu ifade ettiği; ancak ACLU’nun bu tercihin "hakkaniyet" hedefini zayıflattığı yönünde görüş bildirdiği kaydedildi. ACLU analizinde, algoritmik sistemlerin nesnellik maskesi altında aslında insan kararlarını barındırdığına dikkat çekilerek, teknik yapılandırmadaki bu seçimin toplumsal adaletsizliği derinleştirebileceği uyarısı yapıldı.

Olayda algoritmanın doğrudan bir yazılım hatası yapmasından ziyade, veri modelleme tercihlerinin sosyal sonuçları tartışılmaktadır. ACLU, Kaliforniya Halk Sağlığı Departmanı’na bu 2 milyon kişinin ek destekten mahrum edilmemesi için sistemi gözden geçirme çağrısında bulunmuştur.