Google Fotoğraflar’ın siyahi kullanıcıları “goril” olarak etiketlediği ve sorunu ilgili terimleri sistemden kaldırarak yönettiği bildirildi

Haziran 2015’te yazılım geliştiricisi Jacky Alcine, Google Fotoğraflar uygulamasının kendisi ve bir arkadaşına ait fotoğrafları otomatik olarak “goriller” şeklinde etiketlediğini bildirdi. Olayın ardından Google, durumdan derin üzüntü duyduğunu belirterek özür dilemiş; sistemin baş mimarlarından Yonatan Zunger, hatanın düzeltilmesi için çalışmalara başlandığını açıklamıştır. Şirket, kısa vadeli bir çözüm olarak "goril" etiketinin kullanımını durdurmuştur.

Wired tarafından 2018 yılında yapılan bir inceleme, Google’ın “goril”, “şempanze” ve “maymun” gibi terimleri sistemin arama sözlüğünden tamamen çıkardığını ortaya koymuştur. Yapılan testlerde, sistemin babun veya orangutan gibi diğer primatları tanıyabildiği ancak sansürlenen kelimelerle yapılan aramalarda hiçbir sonuç döndürmediği belirlenmiştir. Bu durumun, görüntü tanıma teknolojisindeki hataları maskelemeye yönelik bir "geçici çözüm" olduğu değerlendirilmektedir.

Google sözcüsü, görüntü etiketleme teknolojisinin henüz başlangıç aşamasında olduğunu kabul etmiştir. Virginia Üniversitesi'nden Profesör Vicente Ordóñez Román gibi araştırmacılar, bu tür sistemlerin eğitim verilerinde bulunmayan "uç vakaları" (corner cases) modellemesinin zor olduğunu ve algoritmaların insanlardaki sağduyu yetisinden yoksun olduğunu belirtmektedir. Benzer hataların o dönemde Flickr ve Nikon gibi diğer teknoloji şirketlerinin sistemlerinde de yaşandığı kaydedilmiştir.