Sanas’ın gerçek zamanlı aksan değiştirme yazılımının ırksal önyargıları pekiştirdiği ve etik ihlallere yol açtığı öne sürüldü

Silikon Vadisi merkezli Sanas adlı girişimin, çağrı merkezi çalışanlarının aksanlarını yapay zekâ kullanarak gerçek zamanlı olarak "standart Amerikan İngilizcesine" dönüştüren teknolojisi, etik ve toplumsal tartışmalara yol açtı. Stanford Üniversitesi mezunu üç girişimci tarafından kurulan ve 2022 yılında 32 milyon dolarlık seri A yatırım alan şirketin, özellikle Hindistan ve Filipinler gibi ülkelerdeki dış kaynaklı çağrı merkezi çalışanlarını hedeflediği bildirildi. Sistemin temel amacının, aksan kaynaklı önyargıları ve yanlış anlaşılmaları azaltarak çalışanların maruz kaldığı ırkçı tacizleri engellemek ve iş verimliliğini artırmak olduğu ifade edildi.

Ancak Markkula Etik Merkezi'nden Don Heider ve sosyoloji profesörü Winifred Poster gibi uzmanlar, söz konusu yazılımın ırksal önyargıları ortadan kaldırmak yerine bu önyargıları meşrulaştırdığını ve pekiştirdiğini iddia etmektedir. Bu isimler, sistemin "beyaz sesi" (white voice) standart ve nötr bir norm olarak sunduğunu, bunun da çalışanların kültürel kimliklerini baskıladığını savunmaktadır. Eleştirilerde, aksanların önyargıya neden olmadığı, aksanların var olan önyargıları tetiklediği; bu sorunu yapay zekâ ile maskelemenin sistemik ırkçılığı çözmek yerine "dijital bir filtre" ile gizlediği değerlendirilmektedir.

Şirket Başkanı Marty Sarim, eleştirilere yanıt olarak sistemin çalışanların ruh sağlığını korumak ve onlara "eşit bir oyun alanı" sağlamak için tasarlandığını, yazılımın sadece beyaz sesi değil, farklı kültürlere uygun aksanları da destekleyebileceğini savunmuştur. Ayrıca Sarim, yazılımın kullanımının çalışanların seçimine bağlı olduğunu öne sürmüştür. Buna karşın, yazılımın yönetim haklarının bireysel çalışanlarda değil, işveren kurumlarda olduğu ve çağrı merkezlerindeki yoğun denetim mekanizmaları göz önüne alındığında, çalışanların bu teknolojiyi reddetme imkânının pratikte kısıtlı olabileceği belirtilmektedir.

Yazılımın uzun vadeli etkilerine dair endişeler arasında, çalışanların kendi seslerine yabancılaşması (disosiasyon) ve müşteri hizmetlerindeki insani etkileşimin daha da mekanikleşmesi yer almaktadır. Sanas'ın teknolojisi henüz yaygın bir yasal düzenlemeye tabi olmamakla birlikte, ses teknolojilerinin kimlik ve kültürel temsil üzerindeki etkileri açısından kritik bir vaka olarak değerlendirilmektedir.