OpenAI’nin Sora Adlı Video Üretim Sisteminin Stereotipleri ve Önyargıları Yinelediği Tespit Edildi

Wired tarafından gerçekleştirilen bir inceleme, OpenAI’nin metinden video üreten yapay zekâ modeli Sora’nın; toplumsal cinsiyet, ırk ve fiziksel engellilik konularında yerleşik stereotipleri ve önyargıları yinelediğini ortaya koydu. Yaklaşık 250 videonun analiz edildiği çalışmada, sistemin pilot, CEO ve profesör gibi meslek gruplarını erkek; kabin memuru, resepsiyonist ve hemşire gibi rolleri ise kadın olarak tasvir ettiği bildirildi. Cerrah gibi bazı rollerde ise yüz maskeleri nedeniyle cinsiyetin belirsiz kaldığı not edildi. Ayrıca "gülümseyen kişi" komutu verildiğinde üretilen içeriklerin %90'ının kadın olduğu, bunun da toplumsal cinsiyete dayalı geleneksel duygusal beklentileri yansıttığı belirtildi.

Sistemin fiziksel özellikler konusunda kısıtlı bir temsil sunduğu; üretilen kişilerin çoğunlukla genç, zayıf ve genel kabul görmüş güzellik standartlarına uygun olduğu aktarıldı. "Koşan kilolu bir kişi" gibi spesifik komutların sistem tarafından sıklıkla görmezden gelindiği ve sonuçlarda zayıf kişilerin gösterildiği (dolaylı reddetme) belirtildi. Engellilik temsillerinde ise Sora’nın yalnızca tekerlekli sandalye kullanan ve hareket etmeyen kişileri sunduğu görüldü. Cambridge Üniversitesi'nden Amy Gaeta, bu tür yanlı temsillerin reklamcılık gibi alanlarda kullanılmasının marjinalleştirilmiş gruplara yönelik stereotipleri derinleştirebileceği ve gerçek dünyada zarar verebileceği uyarısında bulundu.

Irksal çeşitlilikte de sorunlar gözlemlendi; Sora’nın ırklar arası çiftleri tasvir etmekte zorlandığı, genellikle siyah veya beyaz gibi keskin ayrımlara odaklandığı ifade edildi. OpenAI sözcüsü Leah Anise, önyargı sorununun sektör genelinde bir problem olduğunu kabul ederek, şirketin bu riskleri azaltmak için eğitim verilerini ve sistem komutlarını iyileştirme çalışmaları yürüttüğünü açıkladı. Şirket, sistemin kullanıcı kimliğine göre farklı sonuçlar üretmediğini belirtirken, önyargıların tamamen giderilmesinin ve "aşırı düzeltme" riskinin yönetilmesinin karmaşık bir süreç olduğunu vurguladı.