Giggle uygulamasının biyometrik cinsiyet doğrulama sisteminin trans bireylere ve belirli etnik gruplara yönelik ayrımcılık yaptığı iddia edildi

Avustralyalı senarist Sall Grover tarafından kurulan ve yalnızca kadınlara özel bir sosyal ağ olarak pazarlanan Giggle uygulamasının, kullanıcı kabul sürecinde kullandığı yapay zekâ tabanlı biyometrik doğrulama sisteminin ayrımcılığa yol açtığı öne sürüldü. Sistemin, kayıt sırasında kullanıcıdan alınan özçekim (selfie) üzerinden kemik yapısı analizi yaparak cinsiyet tespiti yaptığı ve trans kadınların sisteme girişte sorunlar yaşadığı bildirildi. Uygulamanın kullandığı Kairos adlı yazılımın, bir kullanıcının kadın olduğundan %95 oranında emin olması durumunda kayda izin verdiği aktarıldı.

Sistemin yalnızca trans bireyleri değil, aynı zamanda belirli etnik grupları da hatalı sınıflandırdığı iddia edildi. MIT Media Lab tarafından 2019 yılında yapılan bir araştırmaya atıfta bulunularak, Kairos teknolojisinin o dönemde koyu tenli kadınları %22,5 oranında yanlış cinsiyetle sınıflandırdığı; bu durumun "Avrupa merkezli" yüz hatlarını temel alan algoritmik bir önyargıdan kaynaklanabileceği değerlendirildi. Kairos yetkilileri ise bu araştırmanın ardından algoritmada iyileştirmeler yapıldığını belirtmiştir. Bazı kullanıcılar, sistemin biyolojik kadınları reddederken bazı erkek kullanıcıların kaydına onay verdiğini belirterek yazılımın güvenilirliğini sorguladı.

Giggle kurucusu Sall Grover, eleştirilere karşı sistemin "sözdebilim değil, biyobilim" olduğunu savunmuştur. Grover başlangıçta trans kadınların yazılım nedeniyle sorun yaşayabileceğini bir "kusur" olarak nitelendirirken, daha sonra platformdaki tartışmalar ve ideolojik görüşleri doğrultusunda trans kadınları platformdan dışlama kararı aldığını ifade etmiştir. Ayrıca uygulamanın gizlilik politikasının cinsel yönelim, sağlık verileri ve konum gibi hassas kişisel bilgileri topladığı ve üçüncü taraflarla paylaştığına dair endişeler dile getirilmiştir.

Olayın ardından uygulamanın Google Play Store’dan geçici olarak kaldırıldığı, ancak daha sonra tekrar erişime açıldığı bildirildi. Apple ve Google, uygulamanın ayrımcılık karşıtı politikaları ihlal edip etmediğine dair kamuoyuna net bir açıklama yapmamıştır.