Snapchat’in “Hızlı Ekle” özelliğinin reşit olmayan kullanıcıları cinsel suçlulara yönlendirerek istismara zemin hazırladığı iddia edildi

12 yaşındaki bir kız çocuğunun (C.O.), Snapchat’in “Hızlı Ekle” (Quick Add) özelliği aracılığıyla önerilen ve sabıkalı bir cinsel suçlu olduğu belirtilen bir kişiyle iletişim kurmasının ardından cinsel istismara uğradığı bildirildi. Dava dosyasında, sistemin kullanıcıyı doğrudan bu kişiyle bağlantı kurmaya yönlendirdiği; sonrasında ise mağdurun uygunsuz görüntülere, şantaja ve tehditlere maruz kaldığı öne sürüldü. Benzer bir durumun kullanıcı 14 yaşındayken tekrarlandığı ve yine uygulama üzerinden önerilen bir kişi tarafından istismar edildiği aktarıldı.

Davacı taraf, Snapchat algoritmasının reşit olmayan kullanıcıları hedefleyen yetişkin hesaplarını tespit etmekte yetersiz kaldığını ve aksine bu tür hesapları savunmasız çocuklara yönlendirecek şekilde tasarlandığını iddia etti. Uygulamanın, taciz raporlarına ve müstehcen içerik paylaşımlarına rağmen ilgili hesapları engellemediği; algoritmanın bu tür riskli etkileşimleri önleyecek yeterli denetim mekanizmalarından yoksun olduğu savunuldu.

ABD’de görülen davada mahkeme, Snapchat’in üçüncü taraf içeriklerden ve bu içeriklerin sunulma biçiminden hukuken sorumlu tutulamayacağını belirterek davayı reddetti. Yargıç Barbara Bellis, mevcut yasal düzenlemelerin (Section 230) platformlara geniş bir muafiyet tanıdığını, bu durumun "infial uyandırıcı" vakalarda bile yargının müdahale alanını kısıtladığını ifade etti. Kararda, platformun öneri sistemlerini tasarlama biçiminin koruma kalkanı kapsamında olduğu değerlendirildi.

Olayla ilgili olarak Snap CEO’su Evan Spiegel, daha önce katıldığı bir Senato oturumunda platformun güvenlik önlemlerini savunmuş; taciz raporlarına çok kısa sürede müdahale ettiklerini ve kolluk kuvvetleriyle iş birliği yaptıklarını açıklamıştı. Şirket, çocuk güvenliğine yönelik yeni yasal düzenlemeleri (KOSA gibi) desteklediğini belirtirken, mevcut sistemlerin kötü niyetli kişilerin faaliyetlerini zorlaştırdığını öne sürmüştü.