Stanford Üniversitesi araştırmacılarının geliştirdiği yüz tanıma sisteminin cinsel yönelimi tespit edebildiği iddiası etik ve güvenlik tartışmalarına yol açtı

Stanford Üniversitesi’nden Michal Kosinski ve Yilun Wang tarafından yürütülen bir çalışmada, derin sinir ağları kullanılarak kişilerin yüz fotoğraflarından cinsel yönelimlerini tahmin edebilen bir sistem geliştirildiği bildirildi. Araştırmada, ABD’deki çevrimiçi arkadaşlık sitelerinden toplanan yaklaşık 35.000 beyaz bireye ait fotoğrafın kullanıldığı belirtildi. Sistemin, tek bir fotoğraf üzerinden yapılan değerlendirmelerde erkeklerde %81, kadınlarda ise %71 oranında doğru tahmin yürütebildiği; kişi başına fotoğraf sayısı beşe çıkarıldığında ise bu oranların erkekler için %91'e, kadınlar için ise %83'e ulaştığı öne sürüldü.

Çalışmanın sonuçları, sivil toplum kuruluşları ve akademik çevreler tarafından sert eleştirilerle karşılandı. GLAAD ve Human Rights Campaign gibi kuruluşlar, araştırmayı "çöp bilim" olarak nitelendirerek, bu tür bir teknolojinin hem LGBTQ hem de heteroseksüel bireylerin güvenliğini ve mahremiyetini tehdit ettiğini savundu. Eleştirmenler, sistemin biyolojik yüz hatlarından ziyade fotoğraflardaki bakım, ışıklandırma ve çekim açısı gibi kültürel tercihleri analiz etmiş olabileceğini; ayrıca çalışmanın yalnızca beyaz bireylerle sınırlı tutulmasının ciddi bir veri yanlılığı oluşturduğunu vurguladı.

İstatistik uzmanları ve psikologlar, sistemin gerçek dünya senaryolarında uygulanabilirliğini sorgulayarak yüksek "yanlış pozitif" oranına dikkat çekti. Cinsel yönelimin nüfusun küçük bir kısmını oluşturduğu toplumlarda, %91 doğruluk oranına sahip bir algoritmanın dahi heteroseksüel bireyleri yanlışlıkla eşcinsel olarak sınıflandırma ihtimalinin yüksek olduğu ve bunun özellikle eşcinselliğin suç sayıldığı ülkelerde hayati riskler doğurabileceği ifade edildi.

Araştırmacı Michal Kosinski, çalışmayı bu tür teknolojilerin mahremiyet üzerindeki risklerine dikkat çekmek ve bir "uyarı" niteliği taşıması amacıyla gerçekleştirdiğini savundu. Kosinski, yüz tanıma teknolojilerinin otoriter rejimler veya şirketler tarafından kötüye kullanım potansiyeline karşı kamuoyunu bilgilendirmeyi amaçladığını belirtirken, çalışmanın yayımlanmasının ardından çok sayıda tehdit aldığını da bildirdi. Sistemin bir ürün olarak piyasaya sürülmediği, ancak mevcut yüz tanıma teknolojilerinin bu tür analizler için ne kadar kolay manipüle edilebileceğinin gösterildiği değerlendirilmektedir.