YouTube’un öneri algoritmalarının terör örgütü propagandasına aracılık ederek radikalleşmeye katkıda bulunduğu iddia edildi

2015 yılında Paris’te gerçekleşen ve Nohemi Gonzalez’in hayatını kaybettiği terör saldırılarının ardından, maktulün ailesi Google (YouTube) aleyhine hukuki süreç başlatmıştır. Davacılar, YouTube’un içerik öneri algoritmalarının ISIS (DEAŞ) tarafından paylaşılan propaganda videolarını kullanıcılara proaktif olarak sunduğunu, bu durumun örgütün üye toplama ve radikalleşme faaliyetlerine "maddi destek" sağladığını ileri sürmektedir.

İddianın temelini, YouTube’un algoritmik sistemlerinin kullanıcıların izleme geçmişine dayanarak benzer terör içeriklerini hedefli tavsiyeler şeklinde sunması oluşturmaktadır. Davacı taraf, bu işlemin platformu yalnızca üçüncü taraf içeriklerini barındıran bir "yayıncı" olmaktan çıkarıp, içeriğin yayılmasını ve etkisini artıran bir "içerik geliştirici" konumuna getirdiğini savunmaktadır. Bu bağlamda mahkeme, içerik öneri algoritmalarının tarafsız birer kolaylaştırıcı mı yoksa kullanıcıya özel içerik geliştiren birer araç mı olduğunu değerlendirmektedir.

Google ise savunmasında, ABD’deki İletişim Ahlakı Yasası’nın 230. Maddesi uyarınca kullanıcılar tarafından yüklenen içeriklerden dolayı platformun sorumlu tutulamayacağını belirtmektedir. Şirket, her dakika 500 saatten fazla yeni videonun yüklendiği bir sistemde her içerik için hukuki sorumluluk almanın operasyonel olarak imkânsız olduğunu ve terörle bağlantılı içerikleri tespit edip kaldırmak için halihazırda büyük yatırımlar yaptıklarını ifade etmiştir.

Dava süreci, algoritmik önerilerin hukuki dokunulmazlık kapsamında olup olmadığına dair önemli bir emsal teşkil etmektedir. Olayda YouTube algoritmalarının saldırıyı doğrudan planladığına dair bir bulgu mevcut değildir; ancak sistemin zararlı içerikleri hedefli şekilde yayarak radikalleşme süreçlerini hızlandırmış olabileceği riski değerlendirilmektedir.