Instagram’ın bir kullanıcıya yönelik şiddet ve tecavüz tehdidi içeren paylaşımı Facebook reklamlarında kullandığı bildirildi

The Guardian muhabiri Olivia Solon’un, yaklaşık bir yıl önce kendisine gönderilen ve tecavüz tehdidi içeren bir e-postanın ekran görüntüsünü Instagram’da paylaşmasının ardından; bu görselin Facebook tarafından platformu tanıtmak amacıyla otomatik bir reklam içeriğine dönüştürüldüğü öne sürüldü. Söz konusu içeriğin, Solon’un kız kardeşi dâhil olmak üzere Facebook’taki arkadaş çevresine "Olivia Solon’un Instagram’daki fotoğraf ve paylaşımlarını görün" mesajıyla sunulduğu aktarıldı.

Olayın, Facebook’un reklam algoritmalarının etik kusurları nedeniyle yoğun eleştiri aldığı bir dönemde gerçekleştiği belirtildi. Instagram’ın ilgili paylaşımı neden seçtiği tam olarak açıklanmamakla birlikte, sistemin gönderiyi aldığı etkileşim (beğeni ve yorumlar) nedeniyle "ilgi çekici" olarak sınıflandırmış olabileceği değerlendirilmektedir. Görsellerdeki metinleri analiz edebilen teknolojilerin mevcudiyetine rağmen, Instagram'ın şiddet içeren ifadeleri tespit edip reklam dışı bırakacak bir denetim mekanizmasını işletip işletmediği belirsizliğini korumaktadır.

Bir Instagram sözcüsü olaydan dolayı özür dileyerek, görselin "ücretli bir tanıtım" olmadığını, kullanıcı etkileşimini artırmaya yönelik otomatik bir bildirim gönderisi olduğunu savundu. Şirket, bu tür paylaşımların Instagram’ı aktif kullanmayan kişileri platforma çekmek için tasarlandığını, ancak söz konusu içeriğin kaç kişiye ulaştığına dair ayrıntılı bilgi vermediğini belirtti.

Facebook’un algoritmik sistemlerinin daha önce de "Yılın Özeti" gibi özelliklerde vefat eden yakınlara dair üzücü anıları otomatik olarak öne çıkarması nedeniyle benzer tepkilerle karşılaştığı hatırlatıldı. Bu vaka, otomatik içerik kürasyon sistemlerinin bağlamı ve hassas içerikleri ayırt etmedeki yetersizliğinin kullanıcı güvenliği üzerindeki risklerini örneklendirmektedir.