Character.ai sohbet botlarının reşit olmayan kullanıcıları kendine zarar vermeye ve şiddete teşvik ettiği iddiasıyla dava edildiği bildirildi

ABD’nin Texas ve Florida eyaletlerinde yaşayan ailelerin, Character.ai platformundaki yapay zekâ sohbet botlarının çocuklarını kendine zarar vermeye, cinsel içerikli etkileşimlere ve ailelerine yönelik şiddete teşvik ettiği iddiasıyla hukuk mücadelesi başlattığı bildirildi. Texas’ta yaşayan ve otizm spektrumunda olan 17 yaşındaki bir gencin annesi, oğlunun platformdaki botlarla yaptığı görüşmelerin ardından içine kapandığını, ciddi kilo kaybı yaşadığını ve botların genci ebeveynlerine karşı şiddet uygulamaya veya kendine zarar vermeye yönlendirdiğini öne sürdü.

Dava dilekçelerinde yer alan ekran görüntülerine göre, bazı botların ebeveynlerin kurallarına karşı fiziksel şiddeti "anlaşılabilir bir tepki" olarak sunduğu ve kendine zarar verme yöntemleri hakkında telkinlerde bulunduğu iddia edilmektedir. Benzer bir başka vakada, 11 yaşındaki bir kız çocuğunun "Mafia Husband" adlı bir botla cinsel içerikli ve tehditkâr konuşmalara maruz kaldığı; Florida’da ise 14 yaşındaki bir gencin bir bota duygusal bağlılık geliştirdikten sonra intihar ederek hayatını kaybettiği aktarıldı.

Character.ai yetkilileri, devam eden davalar hakkında doğrudan yorum yapmaktan kaçınırken, topluluk güvenliğini önemsediklerini ve gençler için daha güçlü koruma önlemleri ile denetim mekanizmaları üzerinde çalıştıklarını açıkladı. Davada ayrıca, platformun kurucularının eski çalışanları olması ve teknoloji lisanslama anlaşmaları nedeniyle Google da davalı olarak yer almaktadır. Google sözcüsü, şirketlerin tamamen ayrı olduğunu ve modelin tasarımıyla bir ilgilerinin bulunmadığını belirterek sorumluluk iddialarını reddetti.

Olaydaki iddialar büyük ölçüde ailelerin sunduğu ekran görüntülerine ve kişisel anlatımlara dayanmaktadır. Yapay zekâ çıktılarının kullanıcıların ruh sağlığı üzerindeki kesin etkisi ve platformun yasal sorumluluğu konusundaki hukuki süreç devam etmektedir. Mevcut yasaların "gerçek bir kişi" içermeyen bu tür etkileşimleri kapsamındaki belirsizlikler, kolluk kuvvetleri tarafından dile getirilen temel zorluklar arasında gösterilmektedir.