Google Docs’un kapsayıcı dil önerileri özelliğinin hatalı ve tutarsız sonuçlar verdiği bildirildi

Google’ın Nisan 2022’de Google Docs kullanıcıları için kullanıma sunduğu "yardımcı yazma" özelliğinin, metinlerdeki dil kullanımına yönelik yaptığı "kapsayıcı dil" önerilerinin hatalı, tutarsız ve müdahaleci olduğu öne sürüldü. Kurumsal kullanıcılar için varsayılan olarak açık gelen bu sistemin, yazarların sözcük seçimlerini denetleyerek daha nötr veya kapsayıcı alternatifler sunduğu, ancak bu süreçte bağlamı kavrayamadığı iddia edildi.

Yapılan incelemelerde, sistemin teknik bir terim olan "motherboard" (anakart) kelimesini dahi kapsayıcı olmadığı gerekçesiyle işaretlediği ve "landlord" (ev sahibi) yerine "property owner" veya "proprietor" gibi öneriler sunduğu bildirildi. Ayrıca sistemin, Martin Luther King Jr.’ın tarihi konuşmalarındaki "fierce" (şiddetli) ifadesini "intense" (yoğun) olarak değiştirmeyi önerdiği, John F. Kennedy’nin "mankind" (insanlık) ifadesini "humankind" olarak düzeltmeye çalıştığı ve İncil’in çevirilerindeki (Sermon on the Mount) "wonderful" (harika) sıfatını "great", "marvelous" veya "lovely" gibi kelimelerle değiştirmeyi tavsiye ettiği aktarıldı.

Sistemin en çok eleştiri alan yönlerinden birinin ise tutarsızlık olduğu belirtildi. Bir Ku Klux Klan liderinin ırkçı ifadeler ve nefret söylemi içeren mülakat metninin sistem tarafından hiçbir uyarı almadığı; buna karşın edebi veya akademik metinlerdeki cinsiyet nötr olmayan ifadelerin sürekli işaretlendiği bildirildi. Big Brother Watch direktörü Silkie Carlo, bu durumu "ifade özgürlüğüne müdahale" ve "düşünce polisliği" olarak nitelendirerek sistemin mahremiyeti ve bireysel ifadeyi zedelediğini savundu.

Google tarafından yapılan açıklamada, özelliğin sürekli bir "evrim" sürecinde olduğu ve insanların iletişim kurma biçimlerini otomatik olarak öğrenen dil anlama modellerine dayandığı belirtildi. Şirket sözcüsü, bu modellerin insan bilişsel önyargılarını yansıtabileceğini kabul ederek, istenmeyen kelime ilişkilendirmelerini ve önyargıları tamamen giderecek kesin bir çözümün henüz mevcut olmadığını ifade etti. Önerilerin zorunlu olmadığı ve kullanıcılar tarafından kapatılabileceği hatırlatıldı.