Beauty.AI adlı yapay zekâ tabanlı güzellik yarışmasının sonuçlarında ırksal önyargı ve ayrımcılık gözlemlendiği bildirildi

Youth Laboratories tarafından geliştirilen ve Microsoft ile Nvidia gibi teknoloji şirketleri tarafından desteklenen Beauty.AI projesi, dünyanın yapay zekâ jürisi tarafından değerlendirilen ilk uluslararası güzellik yarışmasını düzenledi. Yarışma kapsamında 100’den fazla ülkeden on binlerce katılımcı (kaynaklara göre 6.000 ile 600.000 arasında değişen verilerle), yüz simetrisi ve kırışıklık gibi kriterlere dayalı bir değerlendirme için sisteme fotoğraflarını gönderdi. Farklı algoritmalardan oluşan yapay zekâ jürisinin, insan güzelliğini biyolojik ve estetik parametrelerle analiz etmesi hedeflendi.

Ancak yarışma sonuçları açıklandığında, 44 kazananın neredeyse tamamının beyaz tenli olduğu, birkaç kazananın Asyalı olduğu ve yalnızca bir kişinin koyu tenli olduğu görüldü. Hindistan ve Afrika kıtasından çok sayıda katılım olmasına rağmen, algoritmaların koyu tenli bireyleri güzellik kriterleri çerçevesinde değerlendirmede başarısız olduğu bildirildi. Bu durum, sistemin ırksal bir önyargıyla hareket ettiği iddialarını gündeme getirdi.

Beauty.AI’ın bilim sorumlusu Alex Zhavoronkov, sonuçların kendilerini şaşırttığını belirterek bu durumun temel nedeninin algoritmaların eğitildiği veri setlerindeki çeşitlilik eksikliği olabileceğini ifade etti. Zhavoronkov, sistemin "güzellik" kalıplarını tanımak için kullandığı veri setlerinde azınlık grupların yeterince temsil edilmemesinin, yapay zekânın beyaz teni bir güzellik göstergesi olarak hatalı şekilde ilişkilendirmesine yol açmış olabileceğini değerlendirdi. Ayrıca, düşük ışık koşullarında koyu tenli bireylerin fotoğraflarının teknik analiz sırasında sistem tarafından elenmiş olabileceği de belirtildi.

Olay, yapay zekâ sistemlerinin tarafsız olduğu varsayımının, kullanılan veri setlerindeki eksiklikler nedeniyle hatalı sonuçlar doğurabileceğini gösteren önemli bir vaka olarak kayıtlara geçti. Şirket yetkilileri, gelecekteki projelerde daha geniş veri setleri kullanarak bu tür yanlılıkları gidermeyi amaçladıklarını açıkladı.