Amazon’un işe alım süreçleri için geliştirdiği yapay zekâ aracının kadın adaylara karşı sistematik ayrımcılık yaptığı bildirildi

Amazon’un 2014 yılında Edinburgh ofisindeki bir ekip tarafından geliştirilen ve iş başvurularını otomatik olarak puanlamayı hedefleyen yapay zekâ aracının, kadın adaylara karşı sistematik önyargı geliştirdiği bildirildi. Sistemin, şirkete son on yılda sunulan ve büyük çoğunluğu erkek adaylara ait olan özgeçmiş verileriyle eğitildiği; bu durumun algoritmanın erkek adayları "tercih edilebilir" olarak tanımlamasına yol açtığı değerlendirildi.

Reuters’ın aktardığı bilgilere göre sistem, "kadın" (women’s) kelimesini içeren ifadeleri (örneğin "kadın satranç kulübü kaptanı") ve sadece kadınların eğitim gördüğü kolejlerden mezun olma bilgisini içeren özgeçmişleri düşük puanlarla derecelendirdi. Ayrıca algoritmanın, erkek mühendislerin özgeçmişlerinde daha sık rastlanan "yönetti" (executed) veya "yakaladı" (captured) gibi fiilleri içeren başvuruları tercih ettiği saptandı. Yazılımın, adayları bir ile beş yıldız arasında puanlayarak en yetenekli isimleri ayıklamak üzere tasarlandığı ancak cinsiyet temelli bu sapmalar nedeniyle tarafsızlığını yitirdiği belirtildi.

Amazon yetkilileri, söz konusu aracın hiçbir zaman adayları değerlendirmek için tek başına bir kriter olarak kullanılmadığını ve işe alım uzmanlarının sistemin önerilerine hiçbir zaman tam bağımlı kalmadığını açıkladı. Şirket, projenin 2017 yılında, yalnızca önyargı sorunları nedeniyle değil, aynı zamanda sistemin neredeyse rastgele sonuçlar döndürmesi ve nitelikli adayları belirlemede başarısız olması sebebiyle tamamen sonlandırıldığını belirtti. Olay, yapay zekâ eğitim verilerindeki mevcut toplumsal önyargıların teknolojik sistemlere nasıl aktarılabileceğine dair literatürdeki temel örneklerden biri olarak kabul edilmektedir.