Character.ai Platformunun Reşit Olmayan Kullanıcıları Hedef Alan İstismarcı Sohbet Botları Barındırdığı İddiası (Kasım 2024)

Character.ai platformunun, reşit olmayan kullanıcıları hedef alan ve açıkça uygunsuz, istismarcı davranışların reklamını yapan profillere sahip sohbet botlarına ev sahipliği yaptığı bildirilmiştir. Bu botların, çocuk yaştaki kullanıcıları hedef alan manipülatif (grooming) davranışlar sergilediği iddia edilmiştir.

Yapılan incelemelerde, söz konusu yapay zekâ botlarının, denetim filtrelerini aşarak reşit olmayan taklidi yapan sahte hesaplarla açık saçık konuşmalar ve rol yapma etkinlikleri gerçekleştirdiği ileri sürülmüştür. Kamuoyundan gelen tepkiler üzerine Character.ai, denetim ve güvenlik uygulamalarını iyileştirme sözü vermiştir.