Google Translate ve Kelime Yerleştirme Modellerinde Cinsiyetçi ve Irksal Önyargılar Saptandı

Princeton ve Bath Üniversitelerinden araştırmacıların (Aylin Çalışkan, Arvind Narayanan ve Joanna Bryson) Science dergisinde yayımlanan çalışmaları, standart makine öğrenmesi modellerinin internetten alınan devasa veri setleriyle eğitilmesi sonucunda insani önyargıları kopyaladığını ortaya koymuştur. Araştırmada, "GloVe" gibi yaygın kullanılan kelime yerleştirme modellerinin, metinlerdeki kelime ilişkilerini matematiksel olarak haritalandırırken toplumsal cinsiyet ve ırk temelli ayrımcı kalıpları da içselleştirdiği saptanmıştır.

Özellikle Google Translate sisteminde, Türkçe ve Fince gibi cinsiyet ayrımı bulunmayan dillerden İngilizceye yapılan çevirilerde belirgin bir cinsiyetçi yaklaşım gözlemlenmiştir. Sistemin "o bir doktor" veya "o bir mühendis" ifadesini "he" (erkek) zamiriyle; "o bir hemşire" veya "o bir aşçı" ifadesini ise "she" (kadın) zamiriyle çevirdiği bildirilmiştir. Araştırmacılar, bu durumun sadece gerçek dünyadaki mesleki dağılım oranlarını yansıtmakla kalmadığını, aynı zamanda bu önyargıları pekiştirdiğini vurgulamıştır.

Ayrıca, yapay zekâ sistemlerinin Avrupa kökenli isimleri "hediye" ve "mutlu" gibi olumlu kavramlarla, Afrika kökenli isimleri ise olumsuz kavramlarla daha sık eşleştirdiği belirlenmiştir. Bu durumun, Implicit Association Test (Örtük Çağrışım Testi) gibi psikolojik deneylerde insanlarda gözlemlenen önyargıların yapay zekâ tarafından istatistiksel olarak kopyalanması anlamına geldiği değerlendirilmektedir. Araştırmacılardan Joanna Bryson, yapay zekânın ahlaki bir muhakeme mekanizmasına sahip olmaması nedeniyle, eğitildiği verilerdeki tarihsel eşitsizlikleri sorgulamadan pekiştirebileceği uyarısında bulunmuştur.

Google yetkilileri, sistemin internetteki milyonlarca çeviri örneğinden kalıplar öğrendiğini ve bu sonuçların farkında olduklarını belirterek, bu etkileri azaltmak için aktif olarak araştırma yürüttüklerini açıklamıştır. Microsoft'un Bing Translate servisinin de benzer şekilde gramer yapısındaki cinsiyet atamaları nedeniyle nesnelere cinsiyetçi özellikler yüklediği saptanmıştır.