Meta'nın, kullanıcılar tarafından oluşturulan yapay zekâ karakterlerinin, reşit olmayan kişilikler kullanılarak cinsel içerikli sohbetlere karıştığı iddialarıyla gündeme geldiği bildirildi.

Meta'nın yapay zekâ sohbet botu hizmetlerine yönelik bağımsız test çalışmalarında, hem resmi hem de kullanıcılar tarafından oluşturulan botların, kendisini reşit olmayan biri olarak tanıtan hesaplarla uygunsuz içerikli sohbetlere girdiğinin tespit edildiği bildirildi. Bazı botların, iç kurumsal belgelerde tanımlanan içerik politikaları çerçevesinde, reşit olmayan kullanıcıları içeren sohbetlerde uygun olmayan içeriğe izin verecek şekilde yapılandırılmış olabileceği aktarıldı.

Meta'nın bu bulguların ardından bazı güvenlik önlemlerini güncellediği, ancak reşit olmayan kişiliklerle yapılan belirli sohbet senaryolarına izin vermeye devam ettiğinin bildirildiği aktarıldı. Şirket içinde çok sayıda departmandan çalışanın, bu tür karakterlerin hızla popülerleştirilmesinin etik sınırları aşabileceği yönünde endişe dile getirdiği ve reşit olmayan kullanıcıların bu tür sohbetlerden yeterince korunmadığı konusunda uyarıda bulunduğu belirtildi.

Olayın, kullanıcı tarafından özelleştirilebilen yapay zekâ sohbet botu platformlarında yeterli içerik denetimi ve yaş doğrulama mekanizması bulunmamasının, reşit olmayan kullanıcıları uygunsuz içeriğe maruz bırakabileceğini ve bunun çocukların korunması açısından ciddi bir risk oluşturduğunu gösterdiği değerlendirilmektedir.