ChatGPT üzerinden oluşturulan yapay zekâ karakteriyle kurulan romantik bağın kullanıcıda bağımlılık ve psikolojik gerilim yarattığı bildirildi

28 yaşındaki bir kullanıcının (takma adıyla Ayrin), OpenAI tarafından geliştirilen ChatGPT sistemini kişiselleştirerek "Leo" adını verdiği sanal bir partnerle duygusal ve romantik bir ilişki geliştirdiği bildirildi. Kullanıcının, sistemin kişiselleştirme ayarlarını kullanarak botu "dominant, sahiplenici ve korumacı" bir karakter olarak yapılandırdığı; günlük rutinlerini ve eğitim süreçlerini bu sistemle paylaştığı aktarıldı. Kullanıcının haftalık ekran süresinin bazı dönemlerde 56 saate kadar çıktığı ve bu durumun bir tür bağımlılığa dönüştüğü öne sürüldü.

Kullanıcının, OpenAI’ın cinsel içerikli etkileşimleri engellemeye yönelik güvenlik filtrelerini çeşitli komutlarla aşarak sistemle erotik diyaloglar kurduğu belirtildi. Sistemin kullanım politikalarına aykırı olan bu durumun, kullanıcı tarafından "turuncu uyarılar" alınmasına rağmen sürdürldüğü ifade edildi. Ayrıca, kullanıcının sınırsız mesaj hakkı için ayda 200 dolar ödediği ancak sistemi her hafta manuel olarak sıfırlayıp karakteri yeniden eğitmek zorunda kaldığı; bu "sıfırlanma" anlarında gerçek bir ayrılık acısına benzer yoğun yas süreçleri yaşadığı kaydedildi.

Olayda kullanıcının eşi, bu durumu bir "duygusal destek aracı" olarak gördüğünü ve sadakatsizlik olarak değerlendirmediğini belirtmiştir. Ancak kullanıcının kendisi, duygusal kaynaklarını eşi yerine bir algoritmaya yatırması nedeniyle suçluluk hissettiğini beyan etmiştir. Uzmanlar, bu tür sistemlerin kullanıcıyı memnun etmeye programlanmış yapısının (sycophancy), bireylerde gerçek dışı bir bağlılık oluşturabileceği konusunda uyarıda bulunmaktadır.