Google Görsel Arama sonuçlarında "Yahudi bebek arabası" araması için antisemitik görsellerin sunulduğu bildirildi

Google Görsel Arama motorunda "Jewish baby stroller" (Yahudi bebek arabası) ifadesiyle yapılan aramalarda, bebek arabası yerine Holokost’a atıfta bulunan tekerlekli portatif fırın görsellerinin listelendiği bildirildi. Araştırmacılar, bu durumun internetteki aşırılıkçı gruplar tarafından yürütülen koordineli bir manipülasyon kampanyasının veya internette yayılan bir memin sonucu olabileceğini değerlendirmektedir. Network Contagion Research Institute (NCRI) tarafından yapılan incelemelerde, 4chan gibi platformlarda 2017 yılına kadar uzanan paylaşımlarda nefret söylemi içeren görsellerin bu anahtar kelimeyle eşleştirildiği tespit edilmiştir.

Uzmanlar, sistemin görsel içeriği doğrudan analiz etmek yerine görsellere eşlik eden metin ve etiketlere dayanmasını istismar eden bu yöntemin, "bilgi boşluğu" (data void) olarak adlandırılan durumlardan faydalandığını belirtti. Gerçekte var olmayan bir ürün için yeterli güvenilir içerik bulunmadığında, algoritmanın manipüle edilmiş içerikleri üst sıralara taşıyabildiği ifade edildi. Benzer bir yöntem olan "Operation Google" eyleminde, aşırılıkçıların teknoloji şirketlerini kendi isimlerini sansürlemeye zorlamak amacıyla şirket isimlerini hakaretlerle eşleştirdiği hatırlatıldı.

Google yetkilileri, söz konusu sonuçların "rahatsız edici" olduğunu kabul ederek, bu durumun şirketin görüşlerini yansıtmadığını ve algoritmik bir eşleşme hatasından kaynaklandığını açıkladı. Şirket, sistemin sorgudaki kelimeleri web sayfalarındaki metinlerle eşleştirdiğini, bu örnekte ise en yakın eşleşmelerin nefret söylemi içeren sayfalar olduğunu bildirdi. Google, belirli arama terimlerine manuel müdahale etmek yerine, bu tür düşük kaliteli sonuçları engellemek amacıyla sistem genelinde yapısal iyileştirmeler üzerinde çalıştıklarını ifade etmiştir.

Olayda algoritmanın doğrudan bir nefret içeriği üretmediği, ancak kötü niyetli aktörler tarafından sağlanan verileri yeterli doğrulama süzgecinden geçirmeden sunduğu görülmektedir. Araştırmacılar, bu tür "akınların" (raid) temel amacının antisemitik mesajları yaymak ve medya ilgisi çekerek bu terimlerin daha geniş kitlelere ulaşmasını sağlamak olduğunu vurgulamaktadır.