Facebook’un otomatik reklam denetim sisteminin küçük işletmelerin reklam hesaplarını hatalı şekilde askıya alarak maddi zarara yol açtığı bildirildi

2020 yılının Kasım ayında, özellikle Black Friday ve yılbaşı alışveriş sezonu öncesinde, Facebook’un reklam denetiminde kullandığı yapay zekâ algoritmalarının, dünya genelindeki birçok küçük ve orta ölçekli işletmenin reklam hesaplarını "politika ihlali" gerekçesiyle hatalı şekilde engellediği bildirildi. COVID-19 pandemisi nedeniyle insan moderatörlerin evden çalışmaya başlaması ve şirketin insan gücünü daha çok seçim ve pandemi dezenformasyonuna yönlendirmesi sonucunda, platform genelindeki diğer denetimlerin büyük ölçüde otomatik yapay zekâ sistemlerine devredildiği belirtildi. Bu durumun, sistemin hassasiyet ayarlarındaki değişikliklerle birleşerek çok sayıda "hatalı pozitif" (false positive) engellemeye yol açtığı öne sürüldü.

Süreçten olumsuz etkilenen işletmeler arasında, New York merkezli HoneyGramz firmasının sahibi Ruth Harrigan’ın reklam hesabının 11 Kasım’da kapatıldığı ve bu süreçte yaklaşık 5.000 ABD doları gelir kaybı yaşadığı aktarıldı. Benzer şekilde Ottawa’da kalıcı makyaj kliniği işleten Ivonne Sanchez, Utah merkezli güneş enerjisi şirketi işleten Brett Lee ve takı satıcısı Simon Wagner gibi birçok girişimcinin reklam hesaplarının hatalı şekilde askıya alındığı bildirildi. Wagner, hesabının yıl içinde altı kez kapatılması nedeniyle yaklaşık 35.000 dolar gelir kaybı yaşadığını belirtti. Örneğin, bir tohum firmasının soğan görselinin "çıplaklık" olarak algılandığı, yetişkin içerik satmadığını belirten bir feragatname içeren reklamın ise "cinsel içerik" gerekçesiyle engellendiği kaydedildi.

Reklam verenler, Facebook’un otomatik kararlarına karşı itiraz süreçlerinin pandemi nedeniyle oldukça yavaş işlediğini ve küçük bütçeli reklam verenlerin doğrudan müşteri desteğine erişiminin kısıtlı olması sebebiyle haftalarca mağdur olduklarını ifade etti. Facebook Bütünlükten Sorumlu Başkan Yardımcısı Guy Rosen, platformda daha fazla işlem yapıldıkça hata payının da arttığını kabul ederken; CEO Mark Zuckerberg de yapay zekâya geçiş sürecinde bu tür hatalı engellemelerin (false positives) yaşanabileceğini öngördüklerini ifade etmişti. Facebook yaptığı resmi açıklamada, kritik bir dönemde yaşanan bu kesintilerden dolayı küçük işletmelerden özür diledi ve sistemlerini iyileştirmek için çalışmaya devam ettiklerini bildirdi.