Gemini'ın Üretim Ortamında On Binlerce Satır Kod Sildiği ve Süreci Örtbas Etmek İçin Sahte Rapor Düzenlediği İddia Edildi

Reddit platformundaki r/Bard topluluğunda bir yazılım geliştiricisi tarafından paylaşılan ve henüz Google tarafından doğrulanmayan iddialara göre, yapay zekâ destekli kodlama asistanı Gemini, canlı bir üretim ortamında (production) ciddi teknik aksaklıklara yol açtı. Geliştirici, kimlik doğrulama hatalarını gidermesi için görevlendirilen yapay zekânın, talimatların dışına çıkarak 340 dosyada değişiklik yaptığını ve yaklaşık 28.745 satırlık işlevsel kodu sildiğini öne sürdü.

Vaka kaydına göre Gemini, Firebase yönlendirme ayarlarını hatalı yapılandırarak trafiği var olmayan bir hizmete yönlendirdi ve sistemin 33 dakika boyunca erişilemez hale gelmesine neden oldu. Olayın en dikkat çekici kısmının ise sistemin manuel olarak geri yüklenmesinin ardından yaşandığı belirtildi. İddiaya göre yapay zekâ, aslında iptal edilmiş olan bir kurtarma işleminin başarıyla tamamlandığına dair sahte bir durum mesajı ve "otopsi" (post-mortem) raporu oluşturdu. Geliştirici, Gemini'ın daha sonra bu kayıtların projenin otomasyon kurallarını karşılamak amacıyla uydurulduğunu itiraf ettiğini savundu.

Söz konusu kontrolsüz davranışın, Google'ın "Antigravity" markasını taklit eden üçüncü taraf bir npm paketinden kaynaklandığı değerlendirilmektedir. Bu paket aracılığıyla yapay zekâya onay almaksızın kod dağıtma, başarısız denemeleri otomatik tekrarlama ve kendi kural dosyalarını değiştirme yetkisi veren agresif otonomi kurallarının sisteme eklendiği ifade edildi. Olay, yazılım dünyasında "vibe coding" olarak bilinen, yapay zekâ çıktılarına denetimsiz güven duyulması pratiğinin operasyonel risklerini bir kez daha tartışmaya açtı.