Meta kullanıcılarının, yapay zekâ moderasyon sisteminin çocuk istismarı içeriği gerekçesiyle hesaplarını haksız yere askıya aldığını bildirdiği aktarıldı

Çok sayıda Meta kullanıcısı, otomatik sistemlerin kendilerini çocuk istismarı içeriğiyle ilişkilendirerek Instagram, Facebook ve WhatsApp hesaplarını haksız yere kilitlediğini bildirdi. Etkilenen kullanıcılar herhangi bir kural ihlali yapmadıklarını belirtti ve hesaplarına erişimlerini kaybetmeleri nedeniyle kişisel ve ticari verilerini de kaybettiklerini aktardı.

Uzmanlar, bu tür yanlış askıya almaların olası nedeni olarak yapay zekâ moderasyon sistemlerine aşırı güvenilmesini gösterdi. Bazı kullanıcılar için Meta platformları, pazarlama ve müşteri iletişiminin yüzde 50 ila 90'ını oluşturduğundan, hesapların askıya alınması işletmeler için birincil müşteri edinme kanalının bir gecede kaybedilmesi anlamına geldi.

Kullanıcıların Meta ile iletişime geçip sorunu çözmekte ve hesaplarını geri almakta zorlandığı bildirildi. Meta, askıya almalarla ilgili kamuoyuna herhangi bir açıklama yapmadı ya da düzeltici bir adım atmadı.