HireVue’nun iş başvurularında kullandığı yapay zekâ tabanlı yüz ve ses analizi sisteminin yanıltıcı ve haksız uygulamalara yol açtığı iddiasıyla FTC’ye şikâyet edildiği bildirildi

ABD merkezli işe alım teknolojileri firması HireVue tarafından geliştirilen ve adayların video mülakatlarındaki yüz hareketlerini, ses tonlarını ve kelime seçimlerini analiz ederek otomatik bir "istihdam edilebilirlik" puanı üreten yapay zekâ sisteminin, haksız ve yanıltıcı ticari uygulamalara yol açtığı iddiasıyla Federal Ticaret Komisyonuna (FTC) şikâyet edildiği bildirildi. Tüketici hakları savunucusu Elektronik Gizlilik Bilgi Merkezi (EPIC) tarafından 2019 yılında yapılan başvuruda; şirketin adayların biyometrik verilerini gizli algoritmalarla analiz etmesinin şeffaflık, doğruluk ve hesap verebilirlik ilkelerini ihlal ettiği, ayrıca adayların çoğu durumda bu değerlendirmelere itiraz etme veya sistem dışı kalma imkânının bulunmadığı öne sürüldü.

Yapay zekâ araştırmacıları ve uzmanlar sistemin bilimsel temellerini sorguladı. AI Now Enstitüsü kurucu ortaklarından Meredith Whittaker, sistemin yüz hareketlerinden üretkenlik analizi yapmasını "sözdebilim" ve "ayrımcılık lisansı" olarak nitelendirirken; Northeastern Üniversitesinden duygu analizi üzerine çalışan Profesör Lisa Feldman Barrett, sadece yüz verilerine bakarak psikolojik çıkarımlar yapmanın hatalı bir yöntem olduğunu savundu. Brookings Enstitüsünden yapay zekâ üzerine çalışmalar yürüten Alex Engler ise tamamen otomatik mülakatlar üzerinden iş performansı tahmini yürütülmesinin modern yapay zekâ yeteneklerinin ötesinde olduğunu belirtti. Buna karşılık HireVue’nun baş teknoloji sorumlusu Loren Larsen, sistemin insan işe alım uzmanlarının taşıdığı bilinçaltı önyargıları ortadan kaldırarak daha objektif sonuçlar sunduğunu ve adil bir değerlendirme sağladığını ileri sürdü.

Şikâyet başvurusunda ayrıca, HireVue’nun kimlik tespiti yapmadığı gerekçesiyle "yüz tanıma teknolojisi kullanmadığı" yönündeki beyanının yanıltıcı olduğu, FTC standartlarına göre yüz geometrisinden duygu ve karakter analizi yapan sistemlerin de bu kapsama girdiği savunuldu. Yaşanan tartışmalar ve kamuoyu baskısının ardından HireVue CEO'su Kevin Parker, Ocak 2021'de yaptığı açıklamada, video mülakatlarındaki yüz ifadesi analizi özelliğini kullanımdan kaldırdıklarını ancak ses tonu ve dil analizine dayalı değerlendirmelere devam edeceklerini bildirdi. Şirketin baş veri bilimcisi Lindsey Zuloaga, sistemin cinsiyet, ırk ve yaş gibi unsurlarda önyargı barındırmadığını ve dış bir kuruluş olan O'Neil Risk Consulting tarafından yapılan algoritmik denetimden geçtiğini belirtse de, bağımsız uzmanlar denetim detaylarının kamuoyuyla paylaşılma