Google Gmail’in Akıllı Yanıt sisteminin bağlam dışı ve uygunsuz yanıt önerileri sunduğu bildirildi

Google’ın Gmail kullanıcıları için sunduğu makine öğrenmesi temelli "Akıllı Yanıt" (Smart Reply) sisteminin, geliştirme aşamasında bağlamsal farkındalık eksikliği nedeniyle hatalı ve uygunsuz yanıt önerileri ürettiği bildirilmiştir. Milyarlarca e-posta verisiyle eğitilen sistemin, e-postaların içeriğini analiz ederek kullanıcıya hızlı yanıt seçenekleri sunduğu; ancak bu önerilerin profesyonel normlarla her zaman örtüşmediği gözlemlenmiştir.

Sistemin erken aşamalarındaki prototiplerinde, eğitim verilerindeki yoğunluk nedeniyle hemen her tür iletiye "Seni seviyorum" (I love you) şeklinde yanıt verilmesini önerme eğiliminde olduğu; bu durumun iş ortamındaki yazışmalarda risk barındırdığı ifade edilmiştir. Ayrıca, eğitim verilerinde sıkça rastlanan "iPhone'umdan gönderildi" (Sent from my iPhone) gibi imza ifadelerinin de sistem tarafından sık kullanıldığı için birer yanıt seçeneği olarak sunulduğu belirtilmiştir.

Teknoloji yazarları, önerilen yanıtların tonunun genellikle fazla neşeli veya profesyonel nezaketten uzak olabildiğini öne sürmüştür. "Harika!" (Sweet!) veya "Bayıldım!" (Love it!) gibi ifadelerin resmi yazışmalarda fazla samimi kaçtığı; sistemin dilin çeşitliliğini azaltarak "Gmail-ce" (Gmail-ese) olarak adlandırılan tek tipleşmiş bir iletişim biçimine yol açabileceği değerlendirilmektedir. Bazı eleştirmenler, noktalama işaretlerinin kullanım biçimi nedeniyle yanıtların zaman zaman soğuk veya mesafeli algılanabileceğine dikkat çekmiştir.

Google yetkilileri, kullanıcı geri bildirimleri doğrultusunda "Seni seviyorum" ve imza benzeri riskli önerilerin algoritmadan kaldırıldığını ve sistemin zamanla kişiselleşerek daha isabetli tahminler yapacağını açıklamıştır. Şirket, kullanıcıların bu özelliği masaüstü ve mobil sürümlerde tamamen kapatmasına olanak tanıyan seçenekleri devreye almıştır.