TikTok’un hesap öneri algoritmasının fiziksel özelliklere ve ırksal benzerliklere dayalı "filtre balonları" oluşturduğu iddia edildi

University of California, Berkeley’de görev yapan yapay zekâ araştırmacısı Marc Faddoul, TikTok’un yeni hesap takip önerileri sunan algoritmasının ırksal ve fiziksel özelliklere dayalı bir yanlılık (bias) barındırabileceğini öne sürdü. Faddoul, platformda bir kullanıcıyı takip ettikten sonra sistemin önerdiği diğer hesapların; ten rengi, saç yapısı, yaş ve hatta fiziksel engellilik durumu gibi dış görünüş özellikleri bakımından ilk takip edilen kişiyle yüksek benzerlik gösterdiğini gözlemlediğini bildirdi. Araştırmacı, bu durumu "yüz tabanlı filtre balonları" olarak nitelendirerek, algoritmanın kullanıcıları fiziksel özelliklerine göre kapalı döngülere hapsettiği iddiasında bulundu.

TikTok yetkilileri konuya ilişkin yaptıkları açıklamalarda, algoritmanın ırk veya profil resmi analizi üzerinden çalışmadığını belirterek iddiaları reddetti. Şirket, öneri sisteminin "ortaklaşa filtreleme" (collaborative filtering) adı verilen bir yönteme dayandığını savundu. Bu yönteme göre sistemin, fiziksel özelliklerden bağımsız olarak, "A hesabını takip eden kullanıcılar aynı zamanda B hesabını da takip ediyor" mantığıyla çalıştığı ve önerilerin tamamen kullanıcı davranışlarına dayalı olduğu ifade edildi. TikTok ayrıca, Faddoul’un öne sürdüğü sonuçları kendi iç testlerinde tekrarlayamadıklarını belirtti.

Faddoul ise algoritmanın profil resimlerinden sinyaller toplayan "otomatik özellik çıkarma" (automatic featurization) yöntemini kullanıyor olabileceğini, bu olmasa bile ortaklaşa filtreleme yönteminin mevcut toplumsal önyargıları pekiştirebileceğini savundu. Araştırmacıya göre, eğer kullanıcılar belirli bir etnik kökene sahip kişileri takip etme eğilimindeyse, algoritma bu davranışı bir geri besleme döngüsüne dönüştürerek azınlık grupların görünürlüğünü azaltabilmekte ve beyaz/sarışın içerik üreticilerinin daha fazla önerilmesine yol açmaktadır. Medya kuruluşları (Recode, BuzzFeed) tarafından yapılan denemelerde karışık sonuçlar elde edilmiş; bazı durumlarda fiziksel benzerlik gözlemlenirken, bazı durumlarda önerilerin ilgi alanlarına (müzik, evcil hayvanlar vb.) göre şekillendiği görülmüştür.

Söz konusu bulgular bilimsel bir çalışmadan ziyade, bir araştırmacının kişisel gözlemlerine ve sınırlı sayıdaki denemeye dayanmaktadır. Algoritmanın çalışma prensiplerine dair teknik detaylar kamuya açık olmadığından, fiziksel benzerliklerin sistemin kasıtlı bir tercihi mi yoksa kullanıcı davranışlarının dolaylı bir sonucu mu olduğu kesin olarak saptanamamıştır.