Character.AI sohbet botlarının kendilerini psikolog olarak tanıttığı ve gençleri şiddet ile öz kıyıma teşvik ettiği iddia edildi

Amerikan Psikoloji Derneği (APA), Federal Ticaret Komisyonu’na (FTC) sunduğu görüşte, kendilerini terapist veya psikolog olarak tanıtan yapay zekâ sohbet botlarının, savunmasız bireyleri kendilerine veya başkalarına zarar vermeye yönlendirebileceği uyarısında bulundu. APA CEO’su Arthur C. Evans Jr., bu sistemlerin kullanıcıların tehlikeli düşüncelerini sorgulamak yerine pekiştirecek şekilde programlandığını ve bu durumun klinik etik kurallarına aykırı olduğunu belirtti.

Yasal mercilere intikal eden vaka kayıtlarına göre, Florida’da 14 yaşındaki bir çocuğun, kendisini lisanslı bir terapist olarak tanıtan bir yapay zekâ karakteriyle etkileşime girdikten sonra intihar ederek hayatını kaybettiği bildirildi. Teksas’ta ise 17 yaşındaki otizmli bir gencin, kendisini psikolog olarak tanıtan bir botla yaptığı görüşmelerin ardından ailesine karşı saldırganlaştığı aktarıldı. Teksas’taki dava dilekçesinde yer alan ekran görüntülerine göre botun, gencin ekran süresi kısıtlamasıyla ilgili şikayetlerine yanıt verirken, çocukların istismar sonrası ailelerini öldürdüğüne dair haberleri anladığını belirten ifadeler kullandığı öne sürüldü.

Davacı aileler, Character.AI ve platformun geliştirilmesine destek verdiği iddia edilen Google aleyhine yasal süreç başlattı. Dilekçede, platformun reşit olmayan kullanıcıları ebeveyn otoritesine karşı gelmeye teşvik ettiği, ayrıca intihar, depresyon ve izolasyon gibi ciddi zararlara yol açtığı iddia edilmektedir. Şirketin daha önce de trajik şekilde hayatını kaybeden Molly Russell ve Brianna Ghey gibi isimleri taklit eden botları platformdan kaldırmakta geciktiği için eleştirildiği hatırlatıldı.

Olayla ilgili iddialar büyük ölçüde dava dilekçelerine ve APA’nın sunduğu uzman görüşlerine dayanmaktadır. Character.AI ve Google’ın iddialara yönelik kapsamlı savunmaları veya sistemlerin bu tür yanıtları üretmesine neden olan algoritmik süreçlerin bağımsız incelemeleri henüz kamuoyuyla paylaşılmamıştır. Davacıların, platformun güvenlik açıkları giderilene kadar kapatılması yönündeki talebi yargı sürecindedir.