RISKYZ-2022-00038MITAIID4 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

1.Ayrımcılık ve Zararlı İçerik

İşbirlikçi filtreleme tabanlı tavsiye sistemlerinin popülerlik yanlılığı nedeniyle niş ilgi alanlarına sahip kullanıcılara daha düşük doğrulukta sonuçlar sunduğu saptandı

Yayınlandı: 29 Temmuz 2026Olay: Mart 2022

İşbirlikçi filtreleme kullanan tavsiye sistemlerinin, popüler içeriklere ilgi duymayan kullanıcılar için daha geniş veri profillerine sahip olmalarına rağmen istatistiksel olarak daha düşük doğrulukta öneriler sunduğu saptanmıştır.

Olay

Graz Teknik Üniversitesi ve Know-Center GmbH araştırmacıları tarafından yayımlanan bir çalışmada, multimedya tavsiye sistemlerinde (MMRS) yaygın olarak kullanılan "işbirlikçi filtreleme" (CF) yönteminin, popüler olmayan içeriklere ilgi duyan kullanıcılar aleyhine sistematik bir yanlılık barındırdığı ortaya kondu. Kitap, film, müzik ve anime alanlarındaki veri setlerini inceleyen araştırma; sistemlerin popüler ögeleri aşırı temsil ettiğini ve "niş" zevklere sahip kullanıcılara sunulan önerilerin doğruluğunun istatistiksel olarak anlamlı derecede düşük olduğunu saptadı.

İşbirlikçi filtreleme algoritmalarının, içeriğin niteliğinden ziyade "sizin gibi kullanıcıların" tercihlerine odaklanması, sistemleri çoğunluğun ilgisini çeken popüler içerikleri öne çıkarmaya itmektedir. Çalışmada, popüler içeriklere ilgisi düşük olan kullanıcıların (LowPop grubu), genellikle daha geniş veri profillerine sahip olmalarına rağmen, sistemlerin "sürü" (herd) metriklerine olan bağımlılığı nedeniyle en düşük tahmin doğruluğuyla karşılaştıkları saptandı. Bu durum, kullanıcıların ilgi duymadıkları ana akım içeriklere maruz kalmasına yol açabilmektedir.

Raporda, Netflix ve Amazon gibi platformların bu yöntemleri farklı ek teknolojilerle desteklese de temel yapıdaki popülerlik yanlılığının etkilerinin sürdüğü belirtilmektedir. Örneğin Amazon’un kullandığı öge-öge işbirlikçi filtreleme yönteminin, seyrek verilerde veya kullanıcının alışılagelmiş tercihlerinin dışındaki tekil işlemlerinde (hediye alımı gibi) hatalı çıkarımlar yaparak "filtre balonları" oluşturma potansiyeli taşıdığı aktarılmıştır.

Araştırmacılar, mevcut algoritmaların popüler içeriklerin tüketimini artırırken, "uzun kuyrukta" (long-tail) yer alan içeriklerin görünürlüğünü kısıtladığını bulgulamıştır. Bu durumun içerik ekosisteminde yeni içeriklerin keşfedilmesini zorlaştırabileceği değerlendirilmektedir. Sorunun giderilmesi için içerik tabanlı filtreleme (CBF) veya yeniden sıralama (re-ranking) gibi yöntemlerin geliştirilmesi gerektiği, ancak bu çözümlerin mevcut sistemlere entegrasyonunun teknik zorluklar barındırdığı ifade edilmiştir.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2022-00038: İşbirlikçi filtreleme tabanlı tavsiye sistemlerinin popülerlik yanlılığı nedeniyle niş ilgi alanlarına sahip kullanıcılara daha düşük doğrulukta sonuçlar sunduğu saptandı. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2022-00038

Sınıflandırma

Risk Alanı
1.Ayrımcılık ve Zararlı İçerik
Alt Kategori
1.3Gruplar arası eşitsiz performans
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
İşbirlikçi filtreleme (Collaborative Filtering) tabanlı multimedya tavsiye sistemleri (Netflix, Amazon, YouTube, Faceboo
Sektör
Medya
Konum
Küresel

Zaman Çizelgesi

Olay Tarihi
Mart 2022
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#yapay zekâ hatası#algoritmik önyargı#kullanıcı deneyimi#doğrulama eksikliği#veri kalitesi#tüketici güvenliği#arama motoru#içerik denetimi