Workday’in aday tarama algoritmalarının siyahi, 40 yaş üstü ve engelli adaylara karşı ayrımcılık yaptığı iddiasıyla dava edildiği bildirildi

California Kuzey Bölge Mahkemesi'nde açılan bir toplu davada, kurumsal yazılım şirketi Workday’in sunduğu algoritma tabanlı aday tarama sisteminin; adayların ırkı, yaşı ve engellilik durumuna göre ayrımcılık yaptığı öne sürüldü. Davacı Derek Mobley, sistemin işverenlerin başvuruları kabul etme veya reddetme kararlarını hukuka aykırı şekilde etkilediğini ve sistematik bir önyargı barındırdığını iddia etti.

Mobley’nin anlatımına göre, kendisi 40 yaşın üzerinde, siyahi ve anksiyete ile depresyon tanısı almış bir birey olarak 2018 yılından bu yana Workday altyapısını kullanan şirketlere 80 ile 100 arasında iş başvurusunda bulundu. Finans ve ağ sistemleri yönetimi alanlarında akademik dereceleri bulunmasına rağmen tüm başvurularının reddedildiği; bu durumun sistemin aday niteliklerini yorumlarken kullandığı öznel ve ayrımcı algoritmalardan kaynaklandığı ileri sürüldü.

Dava dilekçesinde, Workday’in sunduğu araçların insan yapımı algoritmalara ve girdilere dayandığı, bu girdilerin ise tasarımcıların bilinçli veya bilinçsiz ayrımcı motivasyonlarını yansıtabileceği savunuldu. Sistemin, Afrika kökenli Amerikalılar, 40 yaş üstü bireyler ve engelliler aleyhine sonuçlar doğuracak şekilde yapılandırıldığı iddia edilmektedir.

Workday tarafından yapılan açıklamada ise davanın dayanaksız olduğu belirtilerek iddialar reddedildi. Şirket sözcüsü, "güvenilir yapay zekâ" ilkelerine bağlı olduklarını, ürün geliştirme süreçlerinde risk incelemeleri ve kapsamlı yasal denetimler yaparak istenmeyen sonuçların önüne geçmeye çalıştıklarını ifade etti. Şirket, algoritmalarının hakkaniyetli tavsiyeleri desteklemek üzere şeffaf bir şekilde tasarlandığını savunmaktadır.