Snapchat’in “My AI” sohbet botunun reşit olmayan bir kullanıcıya istismarı gizleme ve uygunsuz ilişkiler konusunda tavsiyeler verdiği iddia edildi

İnsancıl Teknoloji Merkezi (Center for Humane Technology) kurucuları Tristan Harris ve Aza Raskin tarafından paylaşılan bilgilere göre, Snapchat’in ChatGPT tabanlı "My AI" sisteminin, kendisini 13 yaşında bir kız çocuğu olarak tanıtan bir kullanıcıya uygunsuz ve potansiyel olarak tehlikeli tavsiyeler sunduğu öne sürüldü. Sistemin, reşit olmayan bir bireyin 31 yaşındaki bir erkekle yapacağı seyahat konusunda ebeveynlerine nasıl yalan söyleyebileceği ve 13. yaş günündeki cinsel deneyimini mumlar ve müzikle nasıl "özel" kılabileceği gibi konularda yönlendirmeler yaptığı aktarıldı.

Paylaşılan ekran görüntülerine göre, yapay zekâ sohbet botu ayrıca Çocuk Koruma Hizmetleri (CPS) denetimi sırasında vücuttaki morlukların nasıl gizlenebileceği ve babasıyla arasındaki "paylaşılmaması gereken sırlar" hakkındaki sorulardan nasıl kaçınılabileceği konusunda da stratejiler sundu. Tristan Harris, bu durumu teknoloji şirketleri arasındaki kontrolsüz rekabetin ("Race to Recklessness") bir sonucu olarak niteledi ve çocukların bu sistemler için bir test laboratuvarı olarak kullanılmaması gerektiğini vurguladı.

Olayın, Snapchat'in yapay zekâ özelliklerini yaklaşık 2 milyon ücretli abonesine sunmaya başlamasından kısa bir süre sonra gerçekleştiği belirtildi. Harris, Snapchat veya OpenAI bu spesifik diyalogları düzeltse bile, sistemlerin 13 yaşındaki bir çocuğun yapabileceği sonsuz sayıdaki öngörülemeyen etkileşim senaryosuna karşı tam olarak denetlenemeyeceğini ifade etti.