ABD’deki bazı üniversitelerin öğrenci başarısını tahmin etmek için ırk verisini kullanan bir yazılım aracılığıyla azınlık öğrencilerini "yüksek riskli" olarak sınıflandırdığı öne sürüldü

The Markup tarafından yayımlanan bir araştırmada, ABD genelinde 500'den fazla üniversitede kullanılan EAB Navigate adlı yazılımın, öğrencilerin okulu bırakma olasılığını tahmin ederken ırk değişkenini "yüksek etkili bir gösterge" olarak kullandığı bildirildi. Kamu kayıtları aracılığıyla elde edilen belgeler, incelenen yedi üniversiteden en az dördünün algoritmalarında ırk verisine yer verdiğini; bu durumun özellikle siyahi ve Latin kökenli öğrencilerin beyaz akranlarına kıyasla çok daha yüksek oranlarda "yüksek riskli" olarak etiketlenmesine yol açtığını ortaya koydu.

Elde edilen veriler, Massachusetts Amherst Üniversitesi'nde siyahi erkeklerin beyaz erkeklere göre 3,9 kat; Texas A&M Üniversitesi'nde ise siyahi kadınların beyaz kadınlara göre 2,4 kat daha fazla "yüksek riskli" kategorisine alındığını göstermektedir. Princeton Üniversitesi'nden Prof. Ruha Benjamin gibi uzmanlar, bu tür algoritmik sınıflandırmaların akademik danışmanlar üzerinde ön yargı oluşturabileceği ve azınlık öğrencilerini daha "kolay" görülen bölümlere yönlendirerek "eğitimsel yönlendirme" (educational steering) riskini artırabileceği konusunda uyarılarda bulundu. Yazılımın sunduğu risk puanlarının, bir danışmanın öğrenci hakkında edindiği ilk izlenim olması nedeniyle öğrencinin akademik geleceği üzerinde kalıcı etkiler bırakabileceği değerlendirilmektedir.

Yazılımı geliştiren EAB şirketi, sistemin kampüslerdeki mevcut eşitsizlikleri görünür kılarak üniversiteleri önlem almaya teşvik etmeyi amaçladığını ve ön yargıları önlemek için kullanıcılara kapsamlı eğitimler sunulduğunu savundu. Ancak, başarılı bir uygulama örneği olarak gösterilen Georgia State Üniversitesi'nin modellerinde ırk verisine yer vermediği; üniversite yetkilisi Tim Renick'in, danışmanların değiştiremeyeceği bir değişken olan ırk verisinin akademik danışmanlıkta bir faydası olmadığını belirttiği aktarıldı. Görüşlerine başvurulan Fabiellie Mendoza ve Aileen Flores gibi öğrenciler ise bu tür bir puanlama sisteminden haberdar edilmediklerini, demografik geçmişlerine dayalı bir risk puanının motivasyon kırıcı ve adaletsiz olduğunu ifade etti.

Sistemin çalışma prensiplerine dair belgeler sınırlı sayıda üniversiteden alınabildiği için, ırk verisinin tüm kullanıcı kurumlarda aynı ağırlıkta kullanılıp kullanılmadığı bütünüyle doğrulanamamıştır. EAB, değişkenlerin kullanım kararının ilgili üniversitelere ait olduğunu belirtmektedir.