SafeRent kiracı tarama algoritmasının düşük gelirli ve azınlık gruplara karşı ayrımcılık yaptığı iddiasıyla 2,275 milyon dolarlık uzlaşmaya varıldı

Massachusetts’te açılan bir toplu dava sonucunda, SafeRent adlı yapay zekâ destekli kiracı tarama sisteminin, özellikle kira yardımı (voucher) kullanan Siyah ve Hispanik başvuru sahiplerine karşı ayrımcılık yaptığı iddiaları üzerine yaklaşık 2,275 milyon dolarlık bir uzlaşma sağlandığı bildirildi. Davacılar Mary Louis ve Monica Douglas, sistemin kullandığı algoritmanın kredi geçmişi ve kira dışı borçlar gibi unsurları temel alarak düşük gelirli grupları haksız yere elediğini ve barınma hakkına erişimi engellediğini öne sürdü.

İddiaya göre SafeRent algoritması, devlet tarafından sağlanan kira yardımlarının ödeme garantisi sağlama etkisini hesaba katmamakta; buna karşın azınlık gruplarda istatistiksel olarak daha düşük seyreden kredi puanlarını belirleyici kriter olarak kullanmaktadır. Mary Louis örneğinde, 17 yıllık olumlu kiracı referansına ve kira yardımına rağmen, algoritmanın bu olumlu geçmişi değerlendirmeye almadığı ve ürettiği "SafeRent Puanı" eşik değerin altında kaldığı için başvurunun doğrudan "ret" tavsiyesiyle sonuçlandığı aktarıldı. Davada, sistemin işleyişinin hem mülk sahipleri hem de kiracılar için şeffaf olmadığı, puanın nasıl hesaplandığının açıklanmadığı savunuldu.

Uzlaşma kapsamında SafeRent, beş yıl boyunca kira yardımı kullanan adaylar için ülke genelinde puanlama yapmamayı ve bu kişiler için "kabul/ret" tavsiyesi vermemeyi kabul etti. Şirket sözcüsü Yazmin Lopez, sistemin yasalara uygun olduğuna inandıklarını ancak uzun süren dava sürecinin maliyetleri nedeniyle uzlaşmayı tercih ettiklerini belirtti. Bu kapsamda şirket, herhangi bir hukuki sorumluluk veya suçlama kabul etmemiştir.

ABD Adalet Bakanlığı ve Konut ve Kentsel Gelişim Bakanlığı (HUD) da sürece müdahil olarak, algoritmik sistemlerin kullanımının mülk sahiplerini Adil Konut Yasası kapsamındaki sorumluluklarından muaf tutmadığını vurguladı. Uzlaşma uyarınca, SafeRent'in gelecekte kullanacağı olası yeni puanlama sistemlerinin bağımsız bir kuruluş tarafından adil konut standartlarına göre doğrulanması şartı getirildi.