WeChat’in Çince “siyah yabancı” ifadesini İngilizceye ırkçı bir hakaretle çevirdiği bildirildi

Shanghai’da yaşayan Amerikalı tiyatro yönetmeni Ann James’in, WeChat üzerinden Çince konuşan meslektaşlarıyla yazışırken sistemin nötr bir ifadeyi ırkçı bir hakaretle (N-kelimesi) İngilizceye çevirdiğini fark ettiği bildirildi. James’in bir grup sohbetinde geç kalacağını belirtmesi üzerine bir meslektaşının gönderdiği Çince yanıtın, WeChat’in çeviri özelliği tarafından “Zenci geç kaldı” şeklinde sunulduğu aktarıldı. Yapılan kontrollerde, orijinal mesajda kullanılan “hei laowai” ifadesinin Çincede hakaret içermeyen, “siyah yabancı” anlamına gelen nötr bir terim olduğu teyit edildi.

Medya kuruluşları (Sixth Tone, That’s Shanghai) ve kullanıcılar tarafından yapılan testlerde, çeviri sisteminin bu ırkçı ifadeyi özellikle “geç kalmak”, “tembel” veya “hırsız” gibi olumsuz sıfat ve bağlamlarla birlikte kullandığı tespit edildi. Buna karşın, aynı Çince terimin “doğum günün kutlu olsun” gibi nötr veya olumlu cümleler içinde “siyah yabancı” olarak doğru ve hakaret içermeyen bir biçimde çevrildiği gözlemlendi. Bu durumun, sistemin eğitim verilerindeki olumsuz ilişkilendirmeleri ve önyargıları öğrenmiş olmasından kaynaklandığı değerlendirildi.

WeChat sözcüsü, yaşanan uygunsuz çeviri nedeniyle özür dileyerek sorunun yapay zekâ algoritmasındaki bir hatadan kaynaklandığını ve geri bildirimlerin ardından sistemin derhal düzeltildiğini açıkladı. Şirket, sistemin büyük veri setleri üzerinde eğitilen sinirsel makine çevirisi kullandığını; bu modellerin insan denetimi olmaksızın veri setlerindeki kalıpları öğrenebildiğini belirtti.

Olay, yapay zekâ modellerinin eğitim süreçlerinde kullanılan verilerin niteliği ve bu sistemlerin toplumsal önyargıları nasıl yeniden üretebileceği konusunda tartışmalara yol açtı. That’s Shanghai tarafından yapılan testlerde Microsoft Translator veya Bing gibi diğer platformlarda aynı sonucun alınamaması, hatanın WeChat’in kullandığı spesifik veri seti veya model yapılandırmasından kaynaklanmış olabileceğine işaret etti.