YouTube öneri algoritmasının bir kullanıcının aşırı sağcı ideolojilere radikalleşmesine zemin hazırladığı iddia edildi

Caleb Cain adlı kullanıcının, YouTube’un içerik öneri algoritması aracılığıyla yaklaşık beş yıl süren bir radikalleşme süreci yaşadığı ve "alt-right" (alternatif sağ) olarak bilinen aşırı sağcı hareketin etkisi altına girdiği bildirildi. Cain’in anlatımına göre, başlangıçta kişisel gelişim ve tartışma videoları izlerken sistemin sunduğu "sıradaki" (Up Next) önerileriyle kademeli olarak beyaz üstünlükçülüğü, göçmen karşıtlığı ve aşırı sağcı komplo teorilerini savunan içeriklere yönlendirildiği öne sürüldü.

Bağımsız araştırmacılar ve eski teknoloji çalışanları, YouTube’un izlenme süresini maksimize etmeye odaklı algoritmasının, kullanıcıları daha provokatif ve uç içeriklere yönlendiren bir "tavşan deliği" etkisi yaratarak aşırıcılığa giden tehlikeli bir giriş rampası oluşturduğunu değerlendirmektedir. Bu süreçte Cain’in, Batı medeniyetinin tehdit altında olduğu ve ırksal farklılıkların zekâ ile ilişkili olduğu gibi aşırı görüşleri benimsediği; ancak daha sonra bu hareketten ayrılarak süreci "merkezi olmayan bir tarikat" tarafından beyin yıkanması olarak nitelendirdiği aktarıldı.

Olayın kamuoyuna yansımasının ardından YouTube, nefret söylemi ve taciz politikalarını güncelleyerek beyaz üstünlükçülüğü ve neo-Nazizm savunuculuğu yapan videoları yasakladığını, ayrıca yanlış bilgilerin yayılmasını azaltmak amacıyla öneri algoritmasında değişikliğe gittiğini duyurdu. Şirket, platformun radikalleşme üzerindeki etkisini azaltmaya yönelik adımlar attığını belirtmiştir.

Bununla birlikte uzmanlar, radikalleşmenin duygusal, ekonomik ve siyasi birçok karmaşık faktörden kaynaklandığını; sosyal medyanın bu süreçteki rolünün tek başına belirleyici olmayabileceğini, ancak süreci hızlandıran ve kolaylaştıran bir araç işlevi gördüğünü vurgulamaktadır. Kullanıcının radikalleşme süreci ile algoritma arasındaki doğrudan nedensellik ilişkisi, bireysel psikolojik faktörlerin de etkisiyle bütünüyle ayrıştırılamamaktadır.