Bulut bilişim kimlik bilgilerinin çalınması yoluyla büyük dil modellerine yetkisiz erişim sağlandığı ve "LLMjacking" saldırılarının arttığı bildirildi

Sysdig Tehdit Araştırma Ekibi (TRT), "LLMjacking" olarak adlandırılan ve çalınan bulut kimlik bilgileri kullanılarak büyük dil modellerine (LLM) yetkisiz erişim sağlanan yeni bir siber saldırı türünün yaygınlaştığını raporladı. Saldırganların, özellikle Laravel sistemlerindeki bilinen bir güvenlik açığından (CVE-2021-3129) faydalanarak bulut ortamlarına sızdığı; burada barındırılan Anthropic Claude, AWS Bedrock ve Azure gibi on farklı yapay zekâ servisini hedef aldığı belirtildi.

Araştırmacılar, saldırganların motivasyonunun büyük ölçüde finansal olduğunu; ele geçirilen hesaplar üzerinden sağlanan LLM erişiminin, hizmetten men edilen kişilere veya yaptırım uygulanan ülkelerdeki kullanıcılara "ters vekil sunucular" (reverse proxy) aracılığıyla satıldığını değerlendirmektedir. Bu yöntemle, kullanım maliyetinin asıl hesap sahibine yansıtıldığı, saldırganların ise herhangi bir ücret ödemeden sistemleri suistimal ettiği ifade edildi. Tespit edilen vakalarda, Claude 3 Opus gibi gelişmiş modellerin yetkisiz kullanımı durumunda günlük maliyetin 100.000 ABD dolarını aştığı gözlemlenmiştir.

Teknik analizler, saldırganların tespit edilmemek için sofistike yöntemler kullandığını göstermektedir. Örneğin, LLM erişimini doğrulamak için kasıtlı olarak geçersiz parametreler içeren API çağrıları yapıldığı ve sistemin verdiği hata mesajlarına göre erişim yetkisinin kontrol edildiği bildirilmiştir. Ayrıca, Temmuz 2024’te Bedrock API’sine yönelik taleplerde on katlık bir artış gözlemlendiği; saldırganların araçlarını geliştirmek için suistimal ettikleri yapay zekâ sistemlerinden de yararlanabildikleri aktarılmıştır.

Olayın kapsamı, yalnızca mali zararla sınırlı kalmayıp, kurumsal LLM’lerin silah haline getirilmesi veya eğitim verilerinin sızdırılması gibi riskleri de barındırmaktadır. Sysdig, saldırganların kimlik bilgilerini kontrol etmek için kullandıkları araçların ve ters vekil sunucu projelerinin açık kaynaklı platformlarda paylaşıldığını, bu durumun saldırıların ölçeğini artırdığını belirtmiştir.