Almanya’daki kredi puanlama sistemi Schufa’nın algoritmik kararlarında yanlılık bulunduğu ve şeffaflık eksikliği yaşandığı iddia edildi

Almanya’da bankacılık, sigortacılık ve gayrimenkul kiralama gibi pek çok alanda finansal kararları doğrudan etkileyen Schufa kredi puanlama sisteminin, kapalı devre çalışan algoritması nedeniyle hatalı ve yanlı sonuçlar üretebildiği öne sürüldü. Der Spiegel ve Bavyera Kamu Yayıncısı (BR) tarafından yürütülen, Open Knowledge Foundation ve Algorithm Watch gibi sivil toplum kuruluşlarının desteklediği geniş kapsamlı bir veri incelemesi, sistemin işleyişindeki belirsizlikleri ve olası teknik kusurları gündeme taşıdı.

Yaklaşık bir yıl süren araştırmada, binlerce tüketiciden toplanan kredi raporları analiz edildi. Gazetecilerin analizlerine göre, Schufa algoritmasının yaşlı bireylere, kadınlara ve ikamet adresini nadir değiştiren kişilere daha yüksek puan verme eğiliminde olduğu, bu durumun ise belirli demografik gruplar aleyhine algoritmik önyargı oluşturabileceği iddia edildi. Ayrıca, sistemin 1997’den bu yana dört farklı sürümünün kullanıldığı; bazı tüketicilerin puanlarının yeni sürümlerde herhangi bir somut gerekçe gösterilmeksizin düştüğü tespit edildi.

İnceleme süreci, algoritmanın "kara kutu" niteliğindeki yapısı nedeniyle zorluklarla karşılaştı. Veri gazetecisi Patrick Stotz, Schufa’nın tescilli algoritmasının çalışma prensiplerini açıklamaktan kaçındığını ve Avrupa Genel Veri Koruma Yönetmeliği (GDPR) sonrası tüketicilere sunulan ücretsiz raporlarda, önceki dönemlere kıyasla daha az ayrıntı paylaşıldığını belirtti. Bu durumun, algoritmik hesap verebilirliği zorlaştırdığı ve sistemin denetlenebilirliğini kısıtladığı bildirildi.

Almanya Tüketiciyi Koruma Bakanı Katarina Barley, söz konusu bulguların ardından kredi kayıt bürolarının kullandığı değişkenler ve bu değişkenlerin ağırlıklandırma yöntemleri konusunda daha fazla şeffaflık sağlanması çağrısında bulundu. Schufa ise sistemin doğruluğunu savunmakla birlikte, algoritmanın güncellenme süreçleri ve eski sürümlerin kullanımı konusundaki eleştirilere yönelik kapsamlı bir teknik açıklama sunmadı. Olay, otomatik karar verme sistemlerinin toplumsal etkilerinin denetlenmesi açısından kritik bir örnek olarak nitelendirilmektedir.