Instagram Reels algoritmasının 13 yaşındaki çocuklara cinsel içerikli videolar önerdiği iddia edildi

The Wall Street Journal (WSJ) ve Northeastern Üniversitesi’nden bilgisayar bilimleri profesörü Laura Edelson tarafından yürütülen yedi aylık bir inceleme, Instagram’ın Reels algoritmasının 13 yaşındaki çocuklara ait hesaplara dakikalar içinde cinsel içerikli videolar önerdiğini ortaya koydu. Ocak-Haziran 2024 dönemini kapsayan testlerde, yaşları 13 olarak kaydedilen yeni hesapların, platformun sunduğu video akışında (Reels) kısa sürede müstehcen içeriklerle karşılaştığı bildirildi. Test sonuçlarına göre, hesapların herhangi bir arama yapmamasına veya kimseyi takip etmemesine rağmen, sistemin 3 dakika gibi kısa bir sürede yetişkin içerik üreticilerini önermeye başladığı; 20 dakika sonunda ise akışın büyük ölçüde bu tür içeriklerle dolduğu aktarıldı.

İncelemede, Instagram’ın ana şirketi Meta’nın Ocak ayında gençlere yönelik "yaşa uygun deneyim" sunma ve hassas içerikleri kısıtlama taahhüdüne rağmen, algoritmanın çocukları kural ihlali teşkil eden içeriklere maruz bırakmaya devam ettiği öne sürüldü. WSJ tarafından incelenen 2022 tarihli şirket içi belgelerin de Meta’nın bu durumdan uzun süredir haberdar olduğunu gösterdiği iddia edildi. Söz konusu belgelerde, gençlerin yetişkinlere kıyasla üç kat daha fazla çıplaklık, 1.7 kat daha fazla şiddet ve dört kat daha fazla zorbalık içeriğine maruz kaldığının tespit edildiği; otomatik sistemlerin bu içerikleri engellemede yetersiz kaldığının belirtildiği aktarıldı.

Meta sözcüsü Andy Stone, test bulgularını reddederek bu çalışmanın "gençlerin Instagram’ı gerçekte nasıl kullandığını yansıtmayan yapay bir deney" olduğunu savundu. Şirket, uygunsuz içeriklerin önerilmesini önlemek için çalışmaların sürdüğünü ve son aylarda gençlerin gördüğü hassas içerik miktarının anlamlı ölçüde azaltıldığını açıkladı. Ancak Haziran ayında yapılan ek testlerde, sadece algoritmanın önerdiği videoları izleyen 13 yaşındaki bir test hesabına yarım saat içinde anal seksle ilgili çok sayıda video sunulduğu rapor edildi.

Benzer testlerin TikTok ve Snapchat üzerinde de gerçekleştirildiği, ancak bu platformların çocuk hesaplarına Instagram’daki gibi yoğun cinsel içerik önermediği saptandı. TikTok yetkilileri, reşit olmayan kullanıcılar için daha katı içerik standartları uyguladıklarını ve kısıtlamalarda "ihtiyatlı davranmayı" tercih ettiklerini belirtti. WSJ ve Edelson'un analizine göre Instagram algoritması, kullanıcının duraksadığı veya sonuna kadar izlediği videolara göre benzer içerikleri hızla ön plana çıkararak çocuk kullanıcıları bu tür