Facebook’un "Yılın Özeti" algoritmasının vefat eden yakınlara ait görselleri duygusal bağlamı gözetmeksizin sunarak kullanıcılarda travmatik etki yarattığı bildirildi

Facebook’un 2014 yılı sonunda kullanıma sunduğu "Yılın Özeti" özelliğinin, bazı kullanıcılar için travmatik anıları tetiklediği ve "algoritmik gaddarlık" olarak nitelendirilen durumlara yol açtığı bildirildi. Sistemin, kullanıcıların yıl boyunca en çok etkileşim (beğeni ve yorum) alan paylaşımlarını otomatik olarak seçerek neşeli bir görsel çerçeve içinde sunduğu; ancak bu sürecin içeriğin duygusal niteliğini (yas, felaket veya kayıp) ayırt edemediği belirtildi.

Web tasarımcısı Eric Meyer, 2014 yılında hayatını kaybeden altı yaşındaki kızının fotoğrafının, Facebook algoritması tarafından "Eric, işte yılın böyle göründü!" (Eric, here’s what your year looked like!) başlığı ve kutlama görselleri eşliğinde karşısına çıkarıldığını aktardı. Meyer, bu durumun kasıtlı bir saldırı olmadığını kabul etmekle birlikte, tasarım ve yazılım süreçlerinde "en kötü senaryoların" ve hassas durumların hesaba katılmamasının kullanıcı üzerinde ağır bir duygusal yük oluşturduğunu savundu. Benzer şekilde, diğer kullanıcıların da yanan evleri, vefat eden evcil hayvanları veya kaybettikleri arkadaşlarına dair görsellerin sistem tarafından "yılın öne çıkanları" olarak sunulduğuna dair bildirimlerde bulunduğu kaydedildi.

Facebook Ürün Müdürü Jonathan Gheller, yaşanan olay nedeniyle Meyer’den şahsen özür dileyerek, uygulamanın pek çok kişi için memnuniyet verici olsa da bu vakada sevinç yerine keder getirdiğini kabul etti. Şirket, gelen tepkiler üzerine sistemde bazı güncellemeler yapıldığını; örneğin slayt sonunda yer alan "Harika bir yıldı!" şeklindeki varsayılan ifadenin daha nötr olan "Seneye görüşürüz!" (See you next year!) cümlesiyle değiştirildiğini açıkladı.

Olay, algoritmik karar verme süreçlerinin insan duygularını ve trajik yaşam olaylarını anlamlandırmadaki yetersizliğini ortaya koyan temel bir örnek olarak değerlendirilmektedir. Meyer, bu tür hataların önlenmesi için sistemlerin içerikleri kullanıcıya sormadan doğrudan sunmak yerine, önizleme ve onay mekanizmalarıyla (opt-in) tasarlanması gerektiğini vurguladı.