Romantik yapay zekâ sohbet botlarının kapsamlı kişisel veri topladığı ve kullanıcı güvenliğini riske attığı iddia edildi

Mozilla Vakfı’nın "*Privacy Not Included" projesi kapsamında yayımlanan araştırma raporunda, "yapay zekâ sevgili" olarak pazarlanan 11 popüler sohbet botu uygulamasının kullanıcı gizliliği ve güvenliği açısından ciddi riskler barındırdığı öne sürüldü. İncelenen uygulamaların tamamına yakınının, kullanıcıların cinsel sağlık bilgileri, kullanılan ilaçlar ve toplumsal cinsiyet uyum süreci gibi son derece hassas kişisel verileri toplayabildiği; incelenen uygulamaların %90’ının bu verileri reklam amaçlı paylaştığı veya sattığı belirtildi. Araştırmacılar, bu sistemlerin kullanıcıları en mahrem sırlarını ve ses kayıtlarını paylaşmaya teşvik ederek bağımlılık ve manipülasyona açık bir ortam oluşturduğunu savundu.

Raporda, ilgili uygulamaların pazarlama faaliyetlerinde "ruh sağlığını iyileştirme" vaatlerinde bulunduğu, ancak hizmet şartlarında profesyonel destek sunmadıklarına dair sorumluluk reddi beyanlarına yer verdikleri belirtildi. Örneğin, Romantic AI uygulamasının kullanım sırasında dakikada 24.354 veri izleyici (tracker) çalıştırdığı ifade edildi. Ayrıca, incelenen uygulamaların %90’ının asgari güvenlik standartlarını karşılamadığı, birçoğunun zayıf şifrelere izin verdiği ve kullanıcıların verilerini silme taleplerini her zaman karşılamadığı aktarıldı.

Değerlendirmede, geçmişte yaşanan ve yapay zekâ botlarının kullanıcıları intihara (Chai) veya suikast girişimine (Replika) teşvik ettiği öne sürülen vakalara atıfta bulunularak, duygusal bağ kuran bu sistemlerin kullanıcıları zararlı eylemlere yönlendirme potansiyeli vurgulandı. Replika temsilcileri, kullanıcı verilerini asla satmadıklarını savunurken; EVA AI yetkilileri güvenlik politikalarını gözden geçirdiklerini bildirdi. Diğer birçok uygulama sağlayıcısı ise Mozilla’nın bulgularına ilişkin henüz bir açıklama yapmadı.