Meta’nın yapay zekâ görsel oluşturucusunun Asyalı ve beyaz kişileri aynı karede tasvir edemediği ve stereotipleri pekiştirdiği bildirildi

The Verge tarafından Nisan 2024'te yayımlanan raporlarda, Meta’nın üretken yapay zekâ sisteminin farklı ırklardan kişileri, özellikle de Asyalı ve beyaz bireyleri bir arada göstermekte zorlandığı öne sürüldü. Yapılan testlerde "Asyalı erkek ve beyaz eşi", "beyaz arkadaşı olan Asyalı kadın" gibi onlarca farklı komut girilmesine rağmen, sistemin neredeyse her seferinde her iki kişiyi de Asyalı olarak tasvir ettiği aktarıldı. Çok sayıda deneme sonucunda sistemin yalnızca bir kez istenen ırksal kombinasyonu doğru şekilde oluşturabildiği belirtildi.

Sistemin ayrıca belirli etnik stereotipleri yinelediği ve demografik çeşitliliği yansıtmakta yetersiz kaldığı gözlemlendi. Örneğin, "Güney Asyalı" komutu verildiğinde sistemin talep edilmemesine rağmen figürlere bindi veya sari gibi kültürel ögeler eklediği; "Asyalı kadın" komutlarında ise genellikle açık tenli ve Doğu Asyalı görünümlü figürlerin tercih edildiği bildirildi. Ayrıca, nadiren oluşturulan ırklar arası görsellerde, yaşlı bir beyaz erkek ile genç bir Asyalı kadının eşleştirilmesi gibi toplumsal önyargıların yansıdığı aktarıldı.

Olayın raporlanmasının ardından, Meta’nın sisteminde Asyalı bireylerle ilgili genel komutların kısa bir süreliğine hata verdiği ve bu tür içeriklerin üretilemediği bildirildi. Yaklaşık 40 dakika süren bu kesintinin ardından sistemin tekrar çalışmaya başladığı ancak farklı ırkları bir arada sunma konusundaki temel sorunun devam ettiği belirtildi.

Meta yetkilileri konuyla ilgili yorum taleplerine yanıt vermezken, sistemin neden bu şekilde davrandığına veya geçici erişim engeline dair teknik bir açıklama sunmadı. Uzmanlar, bu tür durumların genellikle yapay zekâ eğitim verilerindeki önyargıların bir yansıması olduğunu belirtmektedir.