Metinden görüntü üreten yapay zekâ sistemlerinin trans ve non-binary bireyleri stereotipik ve cinselleştirilmiş şekilde temsil ettiği öne sürüldü

Edinburgh Üniversitesi’nden araştırmacı Eddie Ugless tarafından yürütülen ve "Stereotypes and Smut" başlığıyla yayımlanan çalışmada, popüler metinden görüntü üreten yapay zekâ sistemlerinin non-cisgender (trans, non-binary, queer) kimlikleri temsil etme biçimleri analiz edildi. Araştırma sonuçlarına göre, istemlere (prompt) kimlik belirten terimler eklendiğinde, sistemlerin ürettiği görsellerin insan görünümünden uzaklaştığı, daha stereotipik ve daha fazla cinselleştirilmiş olduğu iddia edildi.

İncelemede, özellikle "two-spirit" gibi yerel kültürel kimliklere yönelik istemlerin, farklı yerli kültürlerin dini kıyafetlerini birbirine karıştıran, insanlıktan çıkarılmış ve egzotikleştirilmiş sonuçlar verdiği saptandı. Bu durumun, yanlı eğitim verilerinden ve toplumdaki mevcut önyargıları istatistiksel kalıplar olarak yeniden üreten makine öğrenmesi yapısından kaynaklandığı değerlendirilmektedir. Araştırmacı, sistemlerin internetteki devasa veri setlerini tararken toplumsal önyargıları da beraberinde kopyaladığını belirtti.

Araştırma kapsamında görüşlerine başvurulan 35 non-cisgender birey, teknoloji şirketlerinin bu sorunları gidermek için sunduğu "kimlik terimlerini görmezden gelme", "kimlik sembolleri ekleme" veya "uyarı etiketi gösterme" gibi yöntemlere yönelik güçlü itirazlarını dile getirdi. Katılımcıların, bu tür müdahalelerin kimliklerini tabulaştırdığı veya görünmez kıldığı yönünde görüş bildirdikleri aktarıldı.

Araştırmacı Ugless, yalnızca veri miktarını artırmanın temel "anlama" sorununu çözmeyebileceğini ve mevcut sistemlerin bu kimlikleri temsil etme konusunda yapısal bir yetersizlik içinde olduğunu ifade etti. Çalışmada, mevcut yapay zekâ modellerinin bu temel sorunları çözmekten uzak olduğu ve topluluklarla istişare edilmeden geliştirilen çözüm önerilerinin kullanıcılar nezdinde kabul görmediği vurgulandı.