State Farm’ın hasar tespit algoritmalarının siyahi müşterilere karşı sistematik ayrımcılık yaptığı iddia edildi

Amerika Birleşik Devletleri’nin en büyük konut sigortası sağlayıcılarından biri olan State Farm’a karşı, hasar taleplerini değerlendirme süreçlerinde siyahi müşterilere yönelik sistematik ayrımcılık yapıldığı iddiasıyla toplu dava açıldı. Illinois federal mahkemesinde açılan dava, NYU Hukuk Fakültesi bünyesindeki Irk, Eşitsizlik ve Hukuk Merkezi ile Fairmark Partners hukuk firması tarafından yürütülen ve YouGov verilerine dayanan bir araştırmayı temel almaktadır.

Araştırma sonuçlarına göre, siyahi müşterilerin hasar ödemesi alabilmek için beyaz müşterilere kıyasla daha fazla bürokratik engelle karşılaştığı ve daha fazla etkileşime girmek zorunda kaldığı öne sürüldü. Dava dilekçesindeki verilere göre, siyahi müşterilerin hasar onayı almadan önce en az üç kez şirket temsilcisiyle görüşme olasılığının beyaz müşterilere göre %20 daha yüksek olduğu; beyaz müşterilerin ise ödemelerini bir aydan kısa sürede alma ihtimalinin yaklaşık üçte bir oranında daha fazla olduğu iddia edilmektedir.

Dava dilekçesinde, bu eşitsizliğin temelinde State Farm’ın hasar süreçlerinde kullandığı Duck Creek Technologies ve FRISS gibi teknoloji sağlayıcılarının algoritmik sistemlerinin bulunduğu savunuldu. FRISS yazılımının, müşterilere "risk skoru" atarken "şehirleşme derecesi", suç istatistikleri ve sosyal medya verileri gibi değişkenleri analiz edebildiği; bu parametrelerin ırksal önyargıları teknolojik bir örtü altında sürdüren "gizli göstergeler" (dog whistles) olarak işlev gördüğü ileri sürüldü. Davacı Jacqueline Huskey, 2021 yılındaki dolu felaketi sonrası yaşadığı mağduriyette, şirketin hasarı tespit etmekten kaçındığını ve onlarca kez iletişime geçmesine rağmen ödemenin eksik yapıldığını belirtti.

State Farm sözcüsü Gina Morss-Fischer, davanın şirketin değerlerini yansıtmadığını, çeşitlilik ve kapsayıcılık ilkelerine bağlı olduklarını ve tüm müşterilere adil davranıldığını belirterek iddiaları reddetti. Davada adı geçen teknoloji şirketlerinden ise henüz bir açıklama gelmediği bildirildi. Olayda, algoritmik sistemlerin doğrudan ırk verisini kullanıp kullanmadığı veya kullanılan değişkenlerin dolaylı olarak ayrımcılığa yol açıp açmadığı hususu yargılama sürecinde netleşecektir.