Google ve Apple’ın görsel analiz sistemlerinde primat etiketleme özelliğini kısıtladığı öne sürüldü

2015 yılında Google Photos uygulamasının siyahi bireyleri "goril" olarak etiketlemesiyle ortaya çıkan krizin ardından, teknoloji şirketlerinin benzer hatalardan kaçınmak için belirli görsel kategorilerini devre dışı bıraktığı öne sürüldü. New York Times tarafından yapılan testlerde; Google ve Apple’ın görsel arama motorlarının "goril", "şempanze" ve "maymun" gibi primat türlerine ait fotoğrafları, koleksiyonda mevcut olmalarına rağmen bulamadığı tespit edildi. Bu durumun, sistemlerin insanları yanlışlıkla hayvanlarla eşleştirerek ırkçı önyargıları tetiklemesini önlemek amacıyla alınan bir "duvar örme" önlemi olduğu değerlendirilmektedir.

Google sözcüsü Michael Marconi, bu tür hataların tekrarlanmasını önlemeyi amaçladıklarını ve primatları etiketlemenin getireceği kullanıcı faydasının, olası bir yanlış eşleştirmenin yaratacağı zarar riskinden daha düşük olduğunu değerlendirdiklerini belirtti. Eski Google çalışanları, geçmişte yaşanan hataların temel nedeninin yapay zekâ eğitim verilerinde siyahi bireylere ait yeterli görsel bulunmaması olduğunu ifade etti. Benzer bir sorunun Google’ın Nest güvenlik kameralarının test aşamasında da yaşandığı; sistemin bazı siyahi bireyleri hayvanlarla karıştırdığı ancak ürün piyasaya sürülmeden önce müdahale edildiği aktarıldı.

İncelemeler, benzer bir kısıtlama yaklaşımının Apple Photos için de geçerli olabileceğini; sistemin metin içeren görseller dışında primat aramalarına sonuç döndürmediğini ortaya koydu. Diğer rakiplerden Microsoft OneDrive’ın test edilen hiçbir hayvan aramasına sonuç döndüremediği, Amazon Photos’un ise "goril" aramasına tüm primat türlerini dahil ederek düşük doğrulukta sonuçlar verdiği bildirildi. Apple konuyla ilgili açıklama yapmaktan kaçınırken, Microsoft ve Amazon yetkilileri ürünlerini sürekli iyileştirdiklerini belirtmekle yetindi. Uzmanlar, bu yaklaşımın yapay zekâdaki temel veri kusurlarını ve önyargıları bütünüyle düzeltmek yerine, sorunlu özellikleri kullanıcıya kapatarak riski yönetme stratejisi olduğunu vurgulamaktadır.