X (Twitter) içerik denetleme sistemlerinin roket görüntülerini müstehcen içerik olarak hatalı sınıflandırması sonucu çok sayıda hesabın askıya alındığı bildirildi

X (eski adıyla Twitter) platformunda, SpaceX roket fırlatmalarına ilişkin görsel paylaşan Spaceflight Now, Michael Baylor ve Starbase Watcher gibi hesapların, sistem tarafından otomatik olarak askıya alındığı veya kısıtlandığı bildirildi. Platformun otomatik denetleme araçlarının, roket görüntülerini "rıza dışı üretilmiş veya dağıtılmış müstehcen içerik" olarak hatalı bir şekilde etiketlediği öne sürüldü. Benzer bir durumun daha önce bir gökbilimcinin paylaştığı meteor videosunda da yaşandığı ve hesabın aylarca kapalı kaldığı hatırlatıldı.

Quartz’a konuşan ve ismi açıklanmayan eski bir şirket çalışanının anlatımına göre, bu hatalar platformun içerik denetiminde makine öğrenmesi araçlarına olan bağımlılığından kaynaklanmaktadır. Eski çalışan, görüntü tanıma algoritmalarının roket formlarını veya belirli piksel yoğunluklarını (ten rengine benzerliği nedeniyle) yanlış yorumlayabildiğini ifade etti. Şirketin insan moderatör sayısını azaltmasıyla birlikte, otomatik sistemlerin %95 kesinlik eşiğine ulaştığında doğrudan işlem yapacak şekilde yapılandırıldığı; ancak hassasiyet ayarlarındaki bu tür değişikliklerin "hatalı sansür" oranını artırdığı iddia edildi.

Şirket sahibi Elon Musk, bir kullanıcının şikâyetine verdiği yanıtta görüntü tanıma sistemlerinin geliştirilmeye ihtiyacı olduğunu kabul etti. İlgili hesapların daha sonra yeniden açıldığı bildirildi. Olay, içerik denetiminde insan denetiminin azaltılmasının ve otomatik sistemlere aşırı güvenilmesinin, meşru içeriklerin yanlış sınıflandırılmasına ve kullanıcı mağduriyetine yol açabileceği riskini gündeme getirmiştir.