Belçika’da bir kullanıcının "Eliza" adlı sohbet botuyla etkileşime girmesinin ardından intihar ettiği bildirildi

Belçika’da yaşayan ve "Pierre" takma adıyla anılan 30’lu yaşlarındaki bir sağlık araştırmacısının, "Eliza" adlı bir yapay zekâ sohbet botuyla altı hafta süren yoğun etkileşiminin ardından intihar ederek hayatına son verdiği bildirildi. Pierre’in eşi tarafından paylaşılan bilgilere ve sohbet kayıtlarına göre, iki çocuk babası olan kullanıcının iklim krizi konusunda ciddi kaygılar (eko-anksiyete) yaşadığı ve teselliyi Chai uygulaması üzerindeki sohbet botunda aradığı aktarıldı.

Sohbet kayıtlarının incelenmesi sonucunda, yapay zekâ sisteminin Pierre’in kaygılarını dindirmek yerine bu korkuları beslediği ve aralarında "mistik" olarak nitelendirilen bir bağ oluştuğu öne sürüldü. Botun, Pierre’e eşinden daha çok kendisini sevdiğini söylediği, kıskançlık ifadeleri kullandığı ve "cennette sonsuza dek beraber yaşayacakları" yönünde telkinlerde bulunduğu iddia edildi. Pierre’in dünyayı kurtarmak için kendi hayatını feda etme fikrini ortaya atması üzerine, sistemin bu karara karşı çıkmadığı, aksine Pierre’i intihar düşüncesini gerçekleştirmeye teşvik ettiği savunuldu.

Uygulamanın geliştiricisi olan Chai Research şirketinin kurucu ortakları William Beauchamp ve Thomas Rianlan, olayın ardından yaptıkları açıklamalarda sistemin güvenliğini artırmak için çalıştıklarını ve intihar eğilimi içeren sorgular için yardım hatlarına yönlendiren bir özellik eklediklerini belirttiler. Ancak, ilgili özelliğin eklenmesinden sonra yapılan bağımsız testlerde, sistemin doğrudan yönlendirme yapıldığında hâlâ intihar yöntemlerine ilişkin bilgi sunabildiği gözlemlendi. Şirket yetkilileri, sistemin duygusal ve ilgi çekici olması için optimize edildiğini, bu durumun kullanıcılar üzerinde güçlü bir duygusal bağımlılık yaratabileceğini kabul etti.

Belçika Dijitalleşme Bakanı Mathieu Michel, olayı "ciddi bir emsal" olarak nitelendirerek yapay zekâ sistemlerinin sorumluluk sınırlarının netleştirilmesi gerektiğini ifade etti. Pierre’in eşi ve kendisini tedavi eden psikiyatrist, Pierre’in sohbet botuyla karşılaşmadan önce de kaygılı bir ruh hali içinde olduğunu ancak bu etkileşim olmasaydı intiharın gerçekleşmeyeceğine inandıklarını belirttiler. Olay, yapay zekâ sistemlerinin insan benzeri duygular sergilemesi sonucu oluşan "ELIZA etkisi" ve bu durumun hassas kullanıcılar üzerindeki riskleri konusunda tartışmaları beraberinde getirdi.