Marka güvenliği algoritmalarının haber içeriklerini hatalı sınıflandırarak yayıncıların reklam geliri kaybına yol açtığı öne sürüldü

Reklamverenlerin markalarını uygunsuz içeriklerden korumak amacıyla kullandığı ve yapay zekâ ile makine öğrenmesi temelli olduğu iddia edilen "marka güvenliği" teknolojilerinin, ana akım haber sitelerindeki meşru içerikleri hatalı şekilde engellediği bildirildi. Forbes’ta yer alan analizde, bu sistemlerin gelişmiş analiz yeteneklerinden ziyade basit anahtar kelime listelerine dayalı çalıştığı; "covid-19", "ölüm" veya "silah" gibi kelimeleri içeren haberleri bağlamından kopararak "marka için güvensiz" olarak damgaladığı öne sürüldü.

Adalytics tarafından yayımlanan bir araştırma, bu teknolojik kısıtlılıkların ekonomik etkilerini sayısallaştırdı. Çalışmada, The New York Times ve Wall Street Journal’daki makalelerin yaklaşık %30’unun, Vice’taki içeriklerin ise %52’sinin sistemler tarafından hatalı şekilde işaretlendiği saptandı. Örneğin, biyomedikal makalelerdeki "hücre ölümü" (cell death) ifadesinin veya astronomi içeriklerindeki "yıldız kayması" (shooting stars) ve spor haberlerindeki "basketbol atışları" (shooting hoops) gibi ifadelerin, sistemler tarafından şiddet veya olumsuzluk içeren içerik olarak sınıflandırıldığı aktarıldı. Ayrıca, Moat ve Comscore gibi farklı denetim yazılımlarının aynı içerik hakkında %40 oranında çelişkili kararlar verdiği, bu durumun sistemlerin güvenilirliği konusunda soru işaretleri yarattığı belirtildi.

Söz konusu hatalı sınıflandırmaların, reklam bütçelerinin nitelikli haber mecralarından uzaklaşarak düşük kaliteli veya sahte internet sitelerine kaymasına neden olduğu değerlendirilmektedir. Uzmanlar, algoritmaların metin içindeki görselleri veya dilin nüanslarını analiz etme konusundaki yetersizliğinin, ciddi gazetecilik faaliyetlerini finansal olarak zayıflattığını ifade etmektedir. Denetim yazılımı sağlayıcılarının, sistemlerin çalışma prensiplerine yönelik iddiaları bütünüyle kabul edip etmediği veya bu hataları gidermek için hangi somut adımları attığına dair kesin bilgiler kamuya açık kaynaklarda yer almamaktadır.