Çinli sigorta şirketi Ping An’ın müşteri güvenilirliğini ve primlerini belirlemek için yapay zekâ tabanlı yüz ifadesi analizini kullandığı iddia edildi

Çin’in en büyük sigorta şirketlerinden biri olan Ping An’ın, potansiyel müşterilerin dürüstlüğünü ölçmek ve sigorta poliçesi şartlarını belirlemek amacıyla yapay zekâ destekli yüz tanıma yazılımları kullandığı bildirildi. Wall Street Journal tarafından aktarılan bilgilere göre sistemin, bireylerin yüzlerindeki "mikro ifadeleri" analiz ederek doğru söyleyip söylemediklerini tespit etmeye çalıştığı öne sürüldü. Ayrıca yazılımın, kişilerin vücut kitle indeksini (VKI) ve genel sağlık durumunu tahmin ederek sağlık sigortası primlerini bu verilere göre şekillendirdiği belirtildi.

Bloomberg'de yer alan analize göre, bu tür sistemlerin bilimsel temelleri tartışmalıdır. Laboratuvar ortamında eğitilen algoritmaların gerçek hayattaki yalanları tespit etmede hata yapabileceği, iyi yalan söyleyenlerin ifadelerini gizleyebileceği ve verilerin yetersiz kalabileceği değerlendirilmektedir.

Sistemin, özellikle yoksul kesimler ve azınlık grupları (örneğin Çin'deki Uygur azınlığı) üzerinde sistematik bir ayrımcılığa yol açabileceği endişesi dile getirilmektedir. Sosyo-ekonomik zorluklar yaşayan bireylerin daha fazla sağlık sorunu yaşama eğiliminde olduğu; algoritmanın bu kişileri "kârsız" olarak sınıflandırarak dışlayabileceği öne sürülmektedir. Bu durumun, sigortacılığın risk paylaşımı ilkesini zedeleyerek sistemi yalnızca düşük riskli bireylerin kabul edildiği bir yapıya dönüştürebileceği uyarısı yapılmaktadır.

Ping An’ın bu teknolojiyi kâr marjını artırmak ve suistimalleri önlemek amacıyla kullandığı ifade edilse de, sistemin şeffaflığına ilişkin bağımsız bir doğrulama henüz bulunmamaktadır. Uygulamanın, sigorta sektöründe algoritmik önyargı ve sigortanın temel işlevi konularında küresel bir risk barındırdığı değerlendirilmektedir.