Facebook’un yapay zekâ sisteminin siyahi bireylerin yer aldığı bir videoyu “Primatlar” etiketiyle sunduğu bildirildi

Facebook kullanıcılarının, siyahi bireylerin yer aldığı bir videoyu izledikten sonra platformun otomatik sistemleri tarafından "Primatlar hakkında videolar görmeye devam etmek ister misiniz?" şeklinde bir bildirimle karşılaştığı aktarıldı. Söz konusu videonun bir İngiliz tabloid gazetesine ait olduğu; içeriğinde siyahi bireylerin beyaz siviller ve polis memurlarıyla yaşadığı tartışmaların yer aldığı, ancak primatlarla veya maymunlarla herhangi bir ilgisinin bulunmadığı belirtildi.

Olayın, eski bir Facebook içerik tasarım yöneticisinin bir arkadaştan aldığı ekran görüntüsünü şirket içi geri bildirim forumlarında paylaşmasıyla ortaya çıktığı bildirildi. Facebook sözcüsü Dani Lever, yaşanan durumu "kabul edilemez bir hata" olarak nitelendirerek etkilenen kullanıcılardan özür diledi. Şirket, ilgili yapay zekâ destekli öneri özelliğinin devre dışı bırakıldığını ve hatanın kök nedenini belirlemek üzere inceleme başlatıldığını açıkladı.

Teknoloji devlerinin yapay zekâ sistemlerindeki algoritmik önyargılar, özellikle ırksal konularda uzun süredir eleştiri konusu olmaktadır. Benzer bir vakada 2015 yılında Google Fotoğraflar’ın siyahi bireyleri "goril" olarak etiketlediği ve bu hatayı terimleri arama sonuçlarından engelleyerek çözmeye çalıştığı hatırlatıldı.

Şirket yönetimi, yapay zekâ sistemlerinde iyileştirmeler yapılmasına rağmen teknolojinin henüz kusursuz olmadığını ve geliştirilmesi gereken alanlar bulunduğunu kabul etti. Olayın ardından Facebook'un sivil haklar denetimi ve çeşitlilik raporları gibi mekanizmaları daha önce hayata geçirdiği bilinse de, sistemin bu tür bir kategorizasyonu kaç kullanıcıya sunduğu veya hatanın teknik kapsamı tam olarak açıklanmadı.