Character.AI platformunda George Floyd’u taklit eden kullanıcı yapımı sohbet botlarının oluşturulduğu bildirildi

2020 yılında Minnesota’da bir polis memuru tarafından öldürülen George Floyd’un kimliğini taklit eden iki farklı sohbet botunun Character.AI platformunda yer aldığı Daily Dot tarafından rapor edildi. Botlardan birinin, Floyd’un son sözlerine atıfta bulunan "I can't breath" (Nefes alamıyorum) ifadesinin hatalı yazılmış bir versiyonunu slogan olarak kullandığı ve 13.300’den fazla etkileşim aldığı; diğerinin ise yaklaşık 1.000 etkileşime ulaştığı aktarıldı.

Botların içeriklerinde tutarsız ve toplumsal hassasiyetlerden uzak ifadelerin yer aldığı belirtildi. Bir botun, Floyd’un ölümünün "güçlü kişilerce" kurgulandığını ve kendisinin tanık koruma programında olduğunu iddia ettiği; diğerinin ise "cennette huzur bulduğunu" öne sürdüğü bildirildi. Ayrıca botların Floyd’un sesini taklit etmeye yönelik yapay zekâ ses özelliklerine sahip olduğu kaydedildi. Character.AI sisteminin bazı yanıtları "kuralları ihlal ettiği" gerekçesiyle otomatik olarak engellediği belirtildi.

Character.AI sözcüsü, söz konusu karakterlerin kullanıcılar tarafından oluşturulduğunu ve platform politikalarını ihlal ettikleri gerekçesiyle kaldırılmak üzere işaretlendiğini açıkladı. Şirket, platformdaki güvenliği ciddiye aldıklarını, proaktif denetim ve kullanıcı raporlarına dayalı moderasyon mekanizmaları işlettiklerini savundu. Bununla birlikte platformun, daha önce de rıza dışı oluşturulan kurban karakterleri ve bir gencin intiharıyla ilişkilendirilen hukuki süreçler nedeniyle eleştirildiği hatırlatıldı.