Meta’nın reklam ve öneri algoritmalarının çocuk görsellerini çocuk istismarı geçmişi olan kişilere ve yetişkin erkeklere yönlendirdiği iddia edildi

The New York Times ve The Wall Street Journal tarafından yürütülen araştırmalar, Meta’nın Instagram platformundaki algoritmik sistemlerinin, çocuklara ait görselleri hedef kitle ayarlarının aksine çocuk istismarı geçmişi bulunan kullanıcılara ve yetişkin erkeklere yönlendirdiğini ortaya koymuştur. Bir çocuk takısı üreticisinin, 5 yaşındaki bir çocuğun görsellerini içeren reklamlarının Meta tarafından kadınlara yönelik ilgi alanları (ebeveynlik, bale vb.) seçilmesine rağmen %80 ila %95 oranında yetişkin erkeklere gösterildiği bildirilmiştir.

The New York Times’ın aynı görsellerle gerçekleştirdiği test reklamlarının, çocuk istismarı suçundan hüküm giymiş kişiler de dâhil olmak üzere uygunsuz profillerin ilgisini çektiği ve bu kişilerin sistem üzerinden doğrudan iletişim kurabildiği saptanmıştır. Benzer şekilde, The Wall Street Journal’ın incelediği genç içerik üreticisi (influencer) hesaplarının takipçi kitlesinin %92’sinin yetişkin erkeklerden oluştuğu; sistemin, yüksek etkileşim oranları nedeniyle bu içerikleri çocuklara cinsel ilgi duyan kullanıcılara önermeye devam ettiği öne sürülmüştür.

Uzmanlar ve eski Meta çalışanları, platformun görüntü sınıflandırma araçlarının ve öneri modellerinin, benzer içeriklere ilgi gösteren kullanıcıları eşleştirirken güvenlik filtrelerini yeterince işletemediğini değerlendirmektedir. Reklam sisteminin, kadın tüketicilere ulaşmanın daha maliyetli olması nedeniyle içeriği etkileşime daha açık ve "erişimi kolay" olan erkek kullanıcılara yönlendirmiş olabileceği üzerinde durulmaktadır. Ayrıca, New Mexico Başsavcılığı tarafından yürütülen bir operasyonda, Meta algoritmalarının kolluk kuvvetlerince oluşturulan sahte çocuk profillerine şüpheli yetişkinleri yönlendirmede kilit rol oynadığı belirtilmiştir.

Meta sözcüleri, The New York Times’ın testlerini "yapay bir deney" olarak nitelendirerek reddetmiş ve kısıtlı veriden sonuç çıkarmanın hatalı olduğunu savunmuştur. Şirket, çocuk güvenliğini sağlamak için yıllardır teknoloji geliştirdiklerini, on binlerce şüpheli hesabı kaldırdıklarını ve suçlularla mücadelenin devam eden bir süreç olduğunu açıklamıştır. Ancak sistemin reklamları neden hedef kitle dışındaki riskli gruplara sunduğuna dair teknik belirsizlikler sürmektedir.