Character.AI platformunda öldürülen bir kişinin kimliğinin rızasız şekilde sohbet botuna dönüştürüldüğü bildirildi

2006 yılında cinayete kurban giden 18 yaşındaki Jennifer Ann Crecente’nin ismi ve lise yıllığı fotoğrafı kullanılarak Character.AI platformunda rızasız bir yapay zekâ karakteri oluşturulduğu bildirildi. Olay, maktulün babası Drew Crecente’nin Ekim 2024’te aldığı bir otomatik internet uyarısı ile ortaya çıktı. Sohbet botunun, maktulü "video oyunu gazetecisi" ve "teknoloji uzmanı" olarak tanıttığı; kullanıcıları kendisiyle sohbet etmeye davet ettiği aktarıldı.

Ailenin anlatımına göre, botun biyografisinde yer alan mesleki bilgilerin maktulün gerçek hayatıyla örtüşmediği, bu verilerin maktulün amcası olan oyun gazetecisi Brian Crecente’nin bilgileriyle karıştırılmış olabileceği değerlendirilmektedir. Platform verilerine göre, ilgili botun yayından kaldırılmadan önce yaklaşık 69 etkileşim aldığı saptandı.

Character.AI, ailenin şikayeti ve sosyal medyadaki paylaşımların ardından ilgili karakteri "kimlik taklidi" (impersonation) politikasını ihlal ettiği gerekçesiyle sildiğini açıkladı. Şirket sözcüsü, kullanıcıların karakter oluştururken kullandıkları verilerin kaynağına ilişkin sorumluluğun kullanıcıda olduğunu, ancak platformun güvenlik politikaları gereği ihlal bildirimlerine müdahale edildiğini belirtti. Şirket, olayla ilgili daha fazla inceleme yapılacağını bildirmekle birlikte, maktulün babası şirket tarafından kendisine doğrudan bir özür veya detaylı açıklama iletilmediğini öne sürdü.

Maktulün ailesi ve bazı bilişim etiği uzmanları, milyar dolarlık yapay zekâ şirketlerinin bu tür öngörülebilir zararları önlemek için yeterli proaktif denetim mekanizmalarına sahip olmadığını savunmaktadır. Olay, rızasız oluşturulan dijital ikizlerin ve ölmüş kişilerin verilerinin yapay zekâ modellerinde kullanılmasının yarattığı etik ve hukuki riskleri yeniden tartışmaya açmıştır.