Google, Microsoft ve Amazon’un içerik denetleme algoritmalarının kadın bedenini nesneleştirdiği ve cinsiyetçi önyargı barındırdığı öne sürüldü

The Guardian tarafından yürütülen bir araştırma, teknoloji devleri Google, Microsoft ve Amazon tarafından geliştirilen içerik denetleme algoritmalarının kadın bedenine yönelik sistematik bir cinsiyetçi önyargı barındırdığını iddia etmiştir. Bu yapay zekâ sistemlerinin; spor yapan, tıbbi muayeneden geçen veya hamile olan kadınların günlük fotoğraflarını, benzer durumdaki erkek fotoğraflarına kıyasla çok daha yüksek oranlarda "müstehcen" (racy) veya "cinsel çağrışımlı" olarak sınıflandırdığı bildirilmiştir. Bu durumun, sosyal medya platformlarında kadınlara ait içeriklerin kullanıcıya bildirilmeden kısıtlanmasına (shadowbanning) ve kadın girişimcilerin ticari zarara uğramasına yol açtığı öne sürülmektedir.

Araştırma kapsamında yapılan testlerde, ABD Ulusal Kanser Enstitüsü’ne ait bir klinik meme muayenesi görselinin Google tarafından "yüksek müstehcenlik", Microsoft tarafından "%82 cinsel içerik" ve Amazon tarafından "açık çıplaklık" olarak etiketlendiği aktarılmıştır. Benzer şekilde, hamile bir kadının karnını gösteren fotoğrafların da sistemler tarafından yüksek güven aralığıyla "cinsel içerikli" olarak tanımlandığı belirtilmiştir. LinkedIn üzerinde gerçekleştirilen bir deneyde, iç çamaşırlı kadınların bulunduğu bir görselin Microsoft algoritmasından %96 müstehcenlik puanı alarak çok düşük erişimde kaldığı; buna karşın benzer bir erkek görselinin %14 puan aldığı ve çok daha geniş bir kitleye ulaştığı gözlemlenmiştir.

AI etik uzmanı Margaret Mitchell ve profesör Kate Crawford gibi isimler, bu önyargının temelinde eğitim verilerini etiketleyen kişilerin (muhtemelen heteroseksüel erkekler) öznel bakış açılarının yatabileceğini ve sutyen gibi günlük eşyaların bağlam dışı şekilde doğrudan cinsel obje olarak kodlandığını belirtmektedir. Profesör Leon Derczynski ise kadınların nesneleştirilmesinin sistemin mimarisine yerleşmiş göründüğünü savunmaktadır.

İlgili şirketler iddialara yönelik çeşitli açıklamalarda bulunmuştur. Google, SafeSearch sınıflandırıcılarını iyileştirmek için çalışmaların sürdüğünü belirtmiştir. Amazon, sistemin yalnızca etiketleme yaptığını ve nihai kararın insan moderatörlere ait olduğunu savunmuştur. Microsoft'un sorumlu yapay zekâ başkanı Natasha Crampton, ilk incelemelerin hatalı pozitif sonuçların kadınlar aleyhine orantısız olduğuna dair kanıt sunmadığını belirtmiş; ancak araştırmacılar bu açıklama sırasında test sitesinin erişim yönteminin değiştirildiğini kaydetmiştir.