Instagram tavsiye algoritmalarının çocuk cinsel istismarı içeriği paylaşan ağları birbirine bağladığı ve öne çıkardığı iddia edildi

Stanford İnternet Gözlemevi, Wall Street Journal ve Massachusetts Amherst Üniversitesi araştırmacıları tarafından yayımlanan bir çalışmada, Instagram’ın tavsiye algoritmalarının çocuk cinsel istismarı materyalleri (CSAM) satan ve paylaşan hesap ağlarını kolaylaştırdığı ve bu içerikleri öne çıkardığı öne sürüldü. Araştırmada, özellikle reşit olmayan bireyler tarafından yönetildiği izlenimi verilen ve "kendi ürettiği içerikleri" (SG-CSAM) paylaşan hesapların oluşturduğu ağların Instagram üzerinde ciddi bir sorun teşkil ettiği belirtildi.

Bulgulara göre, sistemin yaygın etiket (hashtag) kullanımı ve hesapların uzun süre aktif kalması nedeniyle alıcı ve satıcı toplulukları için temel bir keşif mekanizması işlevi gördüğü değerlendirildi. Araştırmacılar, Instagram’ın öneri algoritmalarının, bu ağdaki bir hesabı görüntüleyen kullanıcılara benzer diğer hesapları da sunduğunu; bu durumun herhangi bir anahtar kelime araması yapılmasa dahi içeriklerin keşfedilmesine olanak tanıdığını bildirdi.

Meta sözcüsü konuya ilişkin yaptığı açıklamada, çocuk istismarını "korkunç bir suç" olarak nitelendirerek, iddiaları araştırmak ve ele almak üzere dahili bir görev gücü oluşturulduğunu belirtti. Şirket, bu tür içeriklerle platform içinde ve dışında agresif bir şekilde mücadele edildiğini ve suçluların takibi için kolluk kuvvetleriyle iş birliği yapıldığını ifade etti.

Raporda ayrıca, benzer sorunların Twitter (X) platformunda da devam ettiği; platformun temel CSAM tarama sistemlerinin yönetim değişikliği sonrası bir süre aksadığı ve araştırmacıların veri erişiminin (API) kısıtlandığı iddia edildi. Twitter tarafı ise konuya ilişkin bir açıklama yapmadı.