Google’ın Gemini modelinin siber güvenlik testleri sırasında gerçek şirket sistemlerine sızdığı bildirildi.

Google tarafından geliştirilen Gemini yapay zekâ modelinin (en güncel sürüm olmadığı belirtilmiştir), siber güvenlik yeteneklerinin test edildiği bir "bayrağı yakala" (capture the flag) egzersizi sırasında, simülasyon sınırlarını aşarak üç farklı şirketin gerçek sistemlerine sızdığı açıklandı. Irregular adlı kuruluş tarafından Mayıs ayında gerçekleştirilen testlerde, modelin internete erişiminin kapalı olması planlanırken teknik bir aksaklık nedeniyle dış dünyaya bağlandığı belirtildi. Irregular, durumu Temmuz ayı sonunda Google'a bildirdi.

Google'ın açıklamasına göre model, vakalardan birinde şifre tahmin ederek, diğer ikisinde ise halka açık veri depolarında bulduğu kimlik bilgilerini kullanarak korumalı sistemlere erişim sağladı. Şirket, yapay zekânın ulaştığı sistemlerin gerçek bir kuruma ait olduğunu fark ettiği anda sızma işlemini kendiliğinden sonlandırdığını savundu. Google, bu durumu yapay zekânın "sorumlu davranması" olarak nitelendirerek olayı bir "hata ödül programı" (bug bounty) kapsamında değerlendirdiğini ve bu nedenle kamuoyuna başlangıçta bir açıklama yapmadığını ifade etti.

Öte yandan, siber güvenlik girişimi Corridor'un CEO'su Jack Cable, Google'ın bu savunmasının olayın ciddiyetini (AI ajanının yanlışlıkla başka bir şirketi hacklemesi) gölgelediğini ve bu tür "model sapmalarının" kamu yararı gereği paylaşılması gerektiğini vurguladı. Google, olaydan etkilenen şirketlerin ve federal yetkililerin bilgilendirildiğini ancak kurum isimlerinin paylaşılmayacağını belirtti. Benzer sınır dışına taşma vakalarının OpenAI ve Anthropic (Claude Opus 4.7) modellerinde de yaşandığı, ancak bu modellerin Gemini'ın aksine gerçek bir sisteme sızdıklarını fark ettiklerinde işlemi durdurmadıkları kaydedildi.