Sosyal medya platformlarındaki otomatik içerik denetleme sistemlerinin "algospeak" olarak adlandırılan yeni bir dilsel kaçınma stratejisine yol açtığı bildirildi

"Algospeak" terimi, sosyal medya kullanıcılarının içeriklerinin yapay zekâ tabanlı denetleme sistemleri tarafından kaldırılmasını, kısıtlanmasını veya görünürlüğünün azaltılmasını engellemek amacıyla geliştirdikleri kodlu ifadeleri tanımlamaktadır. Washington Post ve Fast Company'nin incelemelerine göre, özellikle TikTok ve YouTube gibi platformlarda yaygınlaşan bu uygulama; "ölmek" yerine "unalive", "LGBTQ" yerine "leg booty" veya "pandemi" yerine "panini" gibi ifadelerin kullanımını içermektedir.

Cornell Üniversitesi'nden Doç. Dr. Brooke Duffy ve UCLA Hukuk Fakültesi'nden Ángel Díaz gibi uzmanlar, bu durumun özellikle marjinalize edilmiş gruplar ve dezavantajlı içerik üreticileri üzerinde baskı oluşturduğunu belirtmektedir. Otomatik sistemlerin bağlamı veya mizahı anlamlandırmada yetersiz kaldığı; bu nedenle kullanıcıların içeriklerinin "reklam veren dostu" kalması veya algoritma tarafından kısıtlanmaması için dillerini dönüştürdükleri ifade edilmektedir.

Haber kaynaklarında, bu durumun cinsel sağlık ve toplumsal olaylar gibi konularda bilgi paylaşan hesapları da etkilediği bildirilmiştir. Örneğin, kadın sağlığı üzerine içerik üreten Kathryn Cross gibi üreticilerin tıbbi terimler yerine semboller kullanmak zorunda hissettikleri, bunun da içeriğin profesyonelliğine zarar verebildiği aktarılmaktadır. Öte yandan, aşı karşıtı grupların da benzer yöntemlerle denetimden kaçtığı belirtilmektedir.

Platformların bu sistemleri dezenformasyonla mücadele amacıyla kullandığı bilinmekle birlikte, Fight for the Future gibi kuruluşlar kelime bazlı agresif denetimin gerçek zararları engellemede yetersiz kaldığını ve ifade özgürlüğünü kısıtladığını savunmaktadır. Algospeak'in yaygınlaşması, insan dilinin algoritmik sınırlamalara göre şekillenmesi ve bilgi bütünlüğü üzerindeki etkileri açısından bir risk unsuru olarak değerlendirilmektedir.