Google News verileriyle eğitilen kelime yerleştirme modellerinin toplumsal cinsiyet stereotiplerini pekiştirdiği tespit edildi

Microsoft Research ve Boston Üniversitesi araştırmacıları tarafından yayımlanan bir çalışmada, Google News makaleleri gibi geniş veri kümeleriyle eğitilen kelime yerleştirme (word embedding) modellerinin, toplumsal cinsiyet stereotiplerini (kalıpyargılarını) sistematik olarak barındırdığı bildirildi. Araştırmada, bu modellerin "erkek bilgisayar programcısı ise kadın ev hanımıdır" gibi sorunlu analojiler ürettiği ve bu durumun yapay zekâ uygulamalarında mevcut önyargıları pekiştirme riski taşıdığı ifade edildi.

Çalışmada, kelimelerin vektörel temsilleri arasındaki geometrik ilişkiler incelenmiş; "resepsiyonist" veya "ev hanımı" gibi cinsiyetten bağımsız olması beklenen kavramların doğrudan kadınlarla ilişkilendirildiği saptanmıştır. Bu tür modellerin arama motorlarından otomatik çeviri sistemlerine kadar pek çok kritik alanda temel bileşen olarak kullanılması nedeniyle, toplumsal önyargıların yapay zekâ eliyle daha geniş kitlelere yayılması ve karar alma süreçlerini olumsuz etkilemesi ihtimali üzerinde durulmaktadır.

Yazarlar, "kraliçe-kadın" gibi anlamsal açıdan geçerli ilişkileri korurken, stereotipik önyargıları azaltmayı hedefleyen bir "arındırma" (debiasing) metodolojisi geliştirmiştir. Önerilen algoritmaların, kelime yerleştirme modellerindeki doğrudan ve dolaylı cinsiyet yanlılığını sistemin genel performansına zarar vermeden azalttığı savunulmaktadır. Bununla birlikte, bu tür teknik müdahalelerin veri setlerindeki derin yapısal önyargıları bütünüyle çözüp çözemeyeceği konusundaki belirsizliklerin sürdüğü değerlendirilmektedir.