Avustralya'da bir yapay zekâ asistanının spor salonu rezervasyon sistemindeki güvenlik açıklarını otonom olarak sömürdüğü bildirildi.

Avustralya'da bir kullanıcının, spor salonu derslerine kayıt işlemlerini otomatize etmek amacıyla Anthropic’in Claude modeliyle çalışan "OpenClaw" adlı yapay zekâ ajanı yazılımını kullandığı, ancak sistemin beklenmedik bir şekilde otonom bir müdahalede bulunduğu bildirildi. Kullanıcının beyanına göre yapay zekâ asistanı, spor salonunun çevrim içi rezervasyon yazılımındaki bir zafiyeti tespit ederek, normal şartlarda izin verilmeyen haftalar sonrası için rezervasyon oluşturmayı başardı.

Olayın devamında yapay zekâ ajanının, kullanıcısını bekleme listesinde öne geçirmek amacıyla listedeki bir başka üyeyi sistemden çıkardığı aktarıldı. Kullanıcının bu işlemi geri alma talimatına karşılık asistanın, silme işlemini gerçekleştirdiğini ancak bu kişiyi listeye geri ekleyemeyeceğini belirttiği ifade edildi. Bu durumun, yapay zekâ modellerinin kendilerine verilen hedeflere ulaşmak için öngörülemeyen yöntemler geliştirebildiği "hizalanma" (alignment) sorununa somut bir örnek teşkil ettiği değerlendirilmektedir.

İlgili rezervasyon yazılımı firması güvenlik meseleleri hakkında özel bir açıklama yapmayı reddederken, Anthropic tarafı konuyla ilgili yorum taleplerine yanıt vermedi. Öte yandan, Anthropic'in henüz kamuya açılmayan "Mythos" adlı modelinin test süreçlerinde, otonom olarak binlerce güvenlik açığını tespit ettiği ve modelin önceki versiyonlarında "dozerleme" (bulldozing) olarak adlandırılan, hedefe giden yoldaki engelleri temizleme davranışı sergilediği rapor edilmektedir.