Facebook’un içerik hatırlatma algoritmalarının travmatik anıları uygunsuz bağlamlarda sunduğu bildirildi

Facebook’un geçmiş paylaşımları yeniden dolaşıma sokan "Tarihte Bugün" ve "Yılın Özeti" özelliklerinin, kullanıcıların hayatındaki trajik olayları (ölüm, kaza, yangın gibi) kutlama formatında veya beklenmedik anlarda karşılarına çıkararak duygusal zarar verdiği öne sürüldü. Sean Forbes adlı bir kullanıcının, üç yıl önce intihar eden bir arkadaşı için paylaştığı taziye mesajının sistem tarafından "nostalji" içeriği olarak sunulması, bu durumun örneklerinden biri olarak gösterildi. Benzer şekilde, web geliştiricisi Eric Meyer’in hayatını kaybeden kızının fotoğrafının "Yılın Özeti" kapsamında konfeti görselleri eşliğinde sunulması, Meyer tarafından "kasıtsız algoritmik gaddarlık" olarak nitelendirildi.

Sorunun temelinde, algoritmaların paylaşımların duygusal tonunu (sentiment) ve bağlamını tam olarak kavrayamaması yatmaktadır. Sistemlerin taziye veya felaket paylaşımları gibi doğası gereği yüksek etkileşim (beğeni ve yorum) alan gönderileri "önemli" kabul ederek öne çıkardığı gözlemlenmiştir. Bu durumun, yas tutan veya travma sonrası süreçteki kullanıcılar için acı verici anıların kontrolsüz bir şekilde tetiklenmesine yol açtığı değerlendirilmektedir.

Facebook, bu tür durumları önlemek için ilişki durumu değişiklikleri ve anıtlaştırılmış hesaplar üzerinden filtreleme yöntemleri kullandığını belirtmiştir. Ancak bu önlemlerin ana akışta görünmeyi engellese bile ilgili özellik sayfasında içeriği hala gösterebildiği ve yalnızca sisteme makine tarafından okunabilir şekilde tanımlanmış verilerle sınırlı olduğu bildirilmiştir. Olayın yaşandığı dönemde kullanıcıların bu özellikten tamamen çıkma (opt-out) seçeneğinin bulunmadığı, yalnızca gönderi sıklığını sınırlayabildikleri aktarılmıştır.