Playground AI’nın Asyalı bir kullanıcının fotoğrafını "profesyonel" hale getirirken etnik özelliklerini değiştirdiği iddia edildi

MIT mezunu Rona Wang, Temmuz 2023’te Playground AI adlı yapay zekâ aracını kullanarak kişisel bir fotoğrafını "profesyonel bir LinkedIn profil fotoğrafına" dönüştürmek istediğini belirtti. Wang’in aktardığına göre sistem, orijinal fotoğraftaki yüz hatlarını ve etnik kimliği korumak yerine, kullanıcının ten rengini belirgin şekilde açtı ve gözlerini maviye dönüştürerek ona Kafkas kökenli bir görünüm kazandırdı.

Asya kökenli olan Wang, bu durumun yapay zekâ sistemlerindeki ırksal önyargıları ve "profesyonellik" kavramının belirli bir etnik kökenle hatalı ilişkilendirilmesi riskini tartışmaya açtığını ifade etti. Wang, sistemin bu çıktıyı doğrudan kötü niyetle üretmemiş olabileceğini; ancak eğitim verilerindeki temsil eksikliklerinin veya modelin "profesyonel" istemine karşılık genel bir kalıba yönelmesinin bu sonuca yol açmış olabileceğini değerlendirdi. Olayın, özellikle işe alım süreçlerinde yapay zekâ araçlarına duyulan güvenin olası ayrımcılık risklerini artırabileceği yönünde bir uyarı niteliği taşıdığı belirtildi.

Playground AI kurucusu Suhail Doshi, sosyal medya üzerinden yaptığı açıklamada, kullanılan modellerin bu tür spesifik komutları hassasiyetle yerine getirecek kadar "akıllı" olmadığını ve isteme dayalı olarak jenerik sonuçlar ürettiğini belirtti. Doshi, sistemin mevcut haliyle bir yüzün kimliğini bütünüyle koruyarak yeniden stilize etme özelliğini desteklemediğini ve bu tür sonuçlardan memnuniyet duymadıklarını ifade etti. Ayrıca Doshi, tek bir hatalı çıktı üzerinden sistemin bütünüyle önyargılı olduğu sonucuna varılmaması gerektiğini savunan bir zar benzetmesinde bulunarak, bu sorunu çözmeyi umduklarını belirtti.

Olay, üretken yapay zekâ modellerinin toplumsal önyargıları pekiştirme potansiyeli ve görsel içerik üretiminde etnik temsiliyetin korunması konularındaki teknik yetersizlikleri yeniden gündeme getirmiştir.