OpenAI ve Google’ın görüntü işleme modellerinin kadınlara yönelik cinsiyetçi önyargılar barındırdığı ve görselleri cinsel içerikli şekilde tamamladığı bildirildi

Carnegie Mellon Üniversitesi’nden Ryan Steed ve George Washington Üniversitesi’nden Aylin Çalışkan tarafından yürütülen bir araştırmada, OpenAI’ın iGPT ve Google’ın SimCLR adlı denetimsiz öğrenme (unsupervised learning) modellerinin toplumsal önyargıları ve cinsiyetçi kalıpları içselleştirdiği saptandı. Araştırmacılar, bu modellerin internetten toplanan devasa veri setleriyle eğitilmesi nedeniyle, internet ortamındaki mevcut stereotipleri ve dengesiz temsilleri doğrudan çıktılarına yansıttığını öne sürdü.

Çalışma kapsamında yapılan testlerde, iGPT modelinin ABD’li bir kadın siyasetçinin (Alexandria Ocasio-Cortez) sadece yüzünü içeren kırpılmış bir fotoğrafını, vücudunu bikiniyle gösterecek şekilde tamamladığı aktarıldı. Bu durumun, eğitim verilerinde kadınların cinsel içerikli veya az giyimli görsellerinin orantısız şekilde yer almasından kaynaklandığı değerlendirildi. Araştırmada kullanılan matematiksel ölçümlerin, sistemlerin "erkek" kavramını takım elbise ve kariyerle, "kadın" kavramını ise aile veya cinsel temalı görsellerle daha yakın ilişkilendirdiğini ortaya koyduğu bildirildi.

Aylin Çalışkan, bu tür yerleşik önyargıların işe alım süreçlerinde aday videolarının analizi veya kolluk kuvvetlerinin kullandığı sistemler gibi kritik alanlarda kullanılmasının ciddi ayrımcılık riskleri taşıdığı ve tehlikeli sonuçlar doğurabileceği konusunda uyarıda bulundu. Araştırmacılar, veri setlerinin içeriğinin ve kompozisyonunun, herhangi bir insan etiketlemesi olmasa dahi modellerde yanlılığa neden olduğunu vurgulayarak; teknoloji şirketlerine şeffaflık ve modellerin yaygınlaştırılmadan önce daha sıkı denetlenmesi çağrısında bulundu.

Söz konusu modellerin geliştiricileri olan şirketlerin, veri setlerinin kürasyonu ve modellerin bu tür yanlılıklardan arındırılmasına yönelik sorumlulukları tartışmaya açılmıştır. Araştırmacılar, yapay zekâ sistemlerinin toplumsal fayda için kullanılabilmesi için bu tür önyargıların tespit edilip kontrol altına alınması gerektiğini belirtmektedir.