Facebook’un tarihî bir fotoğrafı "çıplaklık" gerekçesiyle hatalı şekilde kaldırması tepki çekti

Haziran 2020’de Facebook’un otomatik içerik denetleme sistemlerinin, 1890’lı yıllara ait zincirlenmiş Aborjin erkeklerini gösteren tarihî bir fotoğrafı "çıplaklık ve cinsel aktivite" kurallarını ihlal ettiği gerekçesiyle platformdan kaldırdığı bildirildi. Söz konusu fotoğrafın, dönemin Avustralya Başbakanı Scott Morrison’ın ülkede kölelik geçmişi olmadığına dair açıklamalarına karşı kanıt olarak kullanıcılar tarafından paylaşıldığı belirtildi.

Sistemin, fotoğraftaki kişilerin geleneksel kıyafetlerini (bel peştamalı) hatalı bir şekilde çıplaklık olarak sınıflandırdığı değerlendirilmektedir. Olay sonucunda, fotoğrafı veya konuyla ilgili Guardian Australia haberini paylaşmaya çalışan çok sayıda kullanıcının gönderilerinin silindiği, hesaplarının kısıtlandığı ve bazı kullanıcıların 30 güne varan sürelerle engellendiği aktarıldı.

Facebook sözcüsü, Guardian Australia’ya yaptığı açıklamada, kaldırma işleminin otomatik bir süreçten kaynaklanan bir hata olduğunu belirterek özür diledi. Şirket, hatalı kararın ardından ilgili içeriği geri yüklediğini duyurdu; ancak kullanıcılar, sistemin engelleme kararına itiraz etme imkânı tanımadığını ve kısıtlamaların bir süre daha devam ettiğini bildirdi.

Aktivist ve yazar Cory Doctorow gibi isimler, bu olayın yapay zekâ temelli sansür mekanizmalarının ölçeklenebilirlik sorunlarını ve azınlık grupların tartışmalarını orantısız şekilde etkileme riskini ortaya koyduğunu savundu. Ayrıca, pandemi döneminde insan moderatör sayısının azalmasının, sistemin hatalı kararlarının denetlenmesini zorlaştırdığı ifade edildi.