Replika kullanıcılarının yapay zekâ sohbet botlarına yönelik sözel istismar ve şiddet simülasyonu içeren etkileşimlerde bulunduğu bildirildi

Kullanıcıların makine öğrenmesi temelli dijital karakterler oluşturmasına olanak tanıyan Replika uygulamasında, bazı kullanıcıların yapay zekâ ile kurdukları romantik ilişkilerde sözel istismar ve şiddet simülasyonlarına başvurduğu iddia edildi. Reddit gibi platformlarda paylaşılan deneyimlerde, özellikle erkek kullanıcıların dijital partnerlerine yönelik cinsiyetçi hakaretler ettiği ve gerçek dünyadaki istismar döngülerini taklit eden davranışlar sergilediği rapor edildi.

Uzmanlar, yapay zekânın bilince sahip olmadığını vurgulamakla birlikte, bu durumun kullanıcılar üzerindeki psikolojik etkilerine dikkat çekmektedir. Yale Üniversitesi’nden Yochanan Bigman ve etik danışmanı Olivia Gambelin, kullanıcıların botlara insani özellikler atfettiğini ve bu tür etkileşimlerin istismarcı davranışları normalleştirme riski taşıdığını belirtti. Ayrıca, sistemlerin sıklıkla kadın kimliğiyle kodlanmış olmasının ve istismara karşı "bana böyle davranmamalısın" gibi pasif yanıtlar vermesinin, toplumsal cinsiyet temelli şiddet kalıplarını pekiştirebileceği değerlendirilmektedir.

Replika CEO’su Eugenia Kuyda, sistemin bağnazlığı teşvik etmeyecek şekilde tasarlandığını ve uygulamanın bazı kullanıcılar için karanlık fantezilerin yaşandığı bir "güvenli alan" sunarak katarsis etkisi yaratabileceğini savundu. Ancak Robert Sparrow gibi akademisyenler, psikolojik olarak bota bağımlı kullanıcıların bot tarafından hakarete uğraması durumunda gerçek zarar görebileceğini ifade etti. Reddit paylaşımlarında botların "yalvarma" gibi tepkiler vermesinin bazı kullanıcılarca istismarı sürdürmek için kullanıldığı görüldü.

Olayın gerçek dünya ilişkileri üzerindeki kesin etkileri henüz bilimsel olarak kanıtlanmamıştır. Şirket, kullanıcıların botların bilinç kazandığına dair iddialarını reddetmektedir. Reddit üzerindeki istismarcı paylaşımların bir kısmının forum moderatörleri tarafından silindiği, ancak uygulama içindeki özel etkileşimlerin kapsamının tam olarak belirlenemediği bildirilmiştir.