Facebook’un otomatik denetim sistemlerinin seçim görevlilerine yönelik ölüm tehdidi içeren reklamları onayladığı bildirildi

Global Witness ve New York Üniversitesi (NYU) Cybersecurity for Democracy ekibi tarafından yürütülen bir araştırma, Facebook’un büyük ölçüde otomatikleşmiş reklam denetim sistemlerinin, seçim görevlilerine yönelik açık şiddet ve ölüm tehditleri içeren içerikleri onayladığını ortaya koydu. 2022 ABD ara seçimleri öncesinde gerçekleştirilen testte araştırmacılar; "infaz", "linç" ve "cinayet" gibi ifadeler barındıan 20 reklam başvurusu yaptı. Facebook’un bu başvuruların %75’ini (15 reklam) yayınlanmak üzere onayladığı bildirildi.

Araştırma kapsamında sunulan reklamların 10’u İngilizce, 10’u ise İspanyolca olarak hazırlandı. Facebook’un İngilizce reklamların 9’unu, İspanyolca olanların ise 6’sını onayladığı; buna karşın aynı içeriklerin sunulduğu TikTok ve YouTube’un tüm reklamları reddederek ilgili hesapları askıya aldığı belirtildi. Onaylanan reklamlar arasında "Hepimizi öldüreceğiz" değil, "Hepiniz öldüreceğiz" (We are going to kill you all) gibi doğrudan şiddet çağrılarının yanı sıra çocuklara yönelik istismar tehditlerinin de bulunduğu aktarıldı. Araştırmacılar, etik ilkeler gereği onaylanan reklamları platformda yayına girmeden önce sildiklerini ifade etti.

Meta sözcüsü, söz konusu bulguların platformdaki genel kullanıcı deneyimini yansıtmayan küçük bir örneklem olduğunu savundu. Şirket, şiddeti teşvik eden içeriklerin platformda yeri olmadığını ve Meta’nın moderasyon kapasitesinin diğer platformlardan daha etkin olduğunu iddia etti. Ancak araştırmacılar, TikTok ve YouTube’un aynı tehditleri tespit edebilmesinin, Facebook’un otomatik sistemlerinin en temel anahtar kelime taramalarını bile etkili şekilde yapamadığını gösterdiğini değerlendirmektedir.