Anthropic'in, Claude modelinin etki operasyonları, kimlik bilgisi hırsızlığı, işe alım dolandırıcılığı ve zararlı yazılım geliştirme amacıyla kötüye kullanıldığını ayrıntılandıran bir rapor yayımladığ

Anthropic'in, Mart 2025'te tespit edilen çeşitli kötüye kullanım vakalarını ayrıntılandıran bir rapor yayımladığı bildirildi. Raporda, 100'den fazla sosyal medya botunu yöneten bir "hizmet olarak etki operasyonu" girişiminin, sızdırılmış kimlik bilgilerinin güvenlik kamerası erişimi için taranıp test edildiği bir girişimin, Doğu Avrupa'yı hedef alan bir işe alım dolandırıcılığı kampanyasının ve deneyimsiz bir aktörün gelişmiş zararlı yazılım geliştirmesinin yer aldığı belirtildi.

Anthropic'in, tespit edilen hesapları yasakladığı, ancak bu araçların nihai olarak devreye alınıp alınmadığını doğrulayamadığı aktarıldı. Etki operasyonunun, Facebook ve X gibi platformlarda gerçek hesaplarla etkileşime giren sahte siyasi kimlikler oluşturmak için Claude'un kullanıldığını gösterdiği belirtildi.

Olayın, büyük dil modellerinin kötü niyetli aktörler tarafından etki operasyonları, siber suç ve dolandırıcılık faaliyetlerini ölçeklendirmek amacıyla kullanılabilmesinin, dezenformasyon ve gözetim açısından önemli bir risk oluşturduğunu gösterdiği değerlendirilmektedir.