TikTok’un otomatik içerik denetim sisteminin kötü niyetli raporlamalar sonucu trans bir içerik üreticisinin hesabını haksız yere kapattığı iddia edildi

İçerik üreticisi Rosalynne Montoya, 14 Aralık 2020 tarihinde 300 binden fazla takipçisi bulunan TikTok hesabının topluluk kurallarını ihlal ettiği gerekçesiyle kalıcı olarak kapatıldığını bildirdi. Montoya, bu durumun platformun otomatik denetim algoritmalarının kötü niyetli kişilerce suistimal edilmesinden kaynaklandığını öne sürdü.

Yazarın anlatımına göre, östrojen takviyesi yaptığına dair bir videonun rapor edilmesinin ardından hesabı askıya alınmış; daha önce de benzer şekilde "müstehcenlik" gibi gerekçelerle canlı yayın yasakları aldığı belirtilmiştir. Montoya, özellikle azınlık gruplara mensup içerik üreticilerinin organize "trol" grupları tarafından hedef alındığını ve sistemin belirli bir rapor eşiğine ulaşıldığında içeriği veya hesabı yeterli insan denetimi olmaksızın otomatik olarak sildiğini iddia etmektedir.

Montoya, hesabının kapatılmasına itiraz etmiş ancak itirazın bir bilgisayar programı tarafından değerlendirilerek reddedildiğine dair otomatik bir bildirim almıştır. Şirket, ihlalin tam olarak hangi içerikten veya kuraldan kaynaklandığına dair henüz ayrıntılı bir açıklama sunmamıştır. Montoya ise platformun algoritmik süreçlerindeki şeffaflık eksikliğinin, nefret söylemi yayan hesaplar yerine eğitici içerik üreten marjinalize edilmiş kişilerin sansürlenmesine yol açtığını savunmaktadır.

Olayda, sistemin hatalı bir karar verip vermediği veya raporlamaların gerçekten kuralları ihlal eden unsurlar içerip içermediği bağımsız kaynaklarca bütünüyle doğrulanamamıştır. Temel sorun, otomatik karar verme mekanizmalarının koordineli saldırılar karşısındaki savunmasızlığı ve itiraz süreçlerindeki belirsizlik olarak değerlendirilmektedir.