Portland Su Bürosu’nun makine öğrenmesi temelli indirim sisteminin yüksek gelirli bir aboneye hatalı indirim teklif ettiği bildirildi

Portland Su Bürosu’nun, ödeme güçlüğü çeken müşterileri daha etkin bir şekilde tespit etmek amacıyla devreye aldığı makine öğrenmesi algoritmasının, kentin en yüksek gelirli sakinlerinden biri olan Columbia Sportswear CEO’su Tim Boyle’a %40 oranında fatura indirimi teklif ettiği bildirildi. Boyle’un, geçmiş verilerde kentin en çok su tüketen konut aboneleri arasında yer aldığı ve milyar dolarlık kişisel servete sahip olduğu belirtilerek, sistemin hedefleme doğruluğu tartışmaya açıldı.

Söz konusu durumun, belediyenin ihtiyaç sahibi 10.000 müşteriye ulaşma hedefini gerçekleştiremeyen mevcut yardım programını iyileştirmek için SERVUS adlı şirketle yaptığı 350.000 dolarlık pilot çalışma kapsamında yaşandığı aktarıldı. Algoritmanın, gelir beyanında bulunmayan ancak indirim hakkı olabilecek potansiyel kişileri belirlemek üzere tasarlandığı ifade edildi. Su Bürosu yetkilileri, Boyle’un "rastgele kontrol denemesi" (RCT) yazılımı tarafından seçildiğini, bu yöntemin programın genel işleyişini test etmek ve tarafsız bir veri seti oluşturmak için bilinçli olarak kullanıldığını savundu.

Tim Boyle ise yerel basına yaptığı açıklamada, kendi gelir düzeyindeki birine indirim teklif edilmesinin bir yönetim zafiyeti olduğunu öne sürerek, sistemin gerçek ihtiyaç sahiplerine odaklanması gerektiğini belirtti. Kurum yetkilileri, pilot uygulama aşamasında bu tür rastgele seçimlerin sistemin uzun vadeli başarısı için gerekli olduğunu ve bu sayede gelir bilgisi paylaşmayan ancak yardıma muhtaç olabilecek kişilere ulaşılabileceğini ifade etti.