Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Waymo otonom sürüş yazılımındaki bir hatanın aynı çekiciyle iki kez çarpışmaya yol açtığı bildirildi
Phoenix'te ters şekilde çekilen bir kamyonetin hareketini yanlış öngören iki Waymo otonom aracının birkaç dakika arayla aynı araca çarptığı ve şirketin bu hatayı gidermek için yazılım güncellemesi yayımlayarak gönüllü geri çağırma bildiriminde bulunduğu aktarıldı.
Olay
11 Aralık 2023 tarihinde Phoenix, Arizona’da gerçekleşen olayda, iki Waymo otonom aracının birkaç dakika arayla aynı çekiciye ve çekilen araca çarptığı bildirildi. Waymo tarafından yapılan açıklamaya göre, bir çekici tarafından arkaya bakacak şekilde (ters) ve trafik şeridine göre açılı bir şekilde çekilen kamyonet, otonom sistem tarafından algılanmış ancak aracın gelecekteki hareketi sistem tarafından yanlış öngörülmüştür.
Şirket, çarpışmaların temel nedenini çekilen kamyonet ile çekici arasındaki "yönelim uyumsuzluğu" (orientation mismatch) olarak tanımlamıştır. Çekilen aracın alışılagelmişin dışındaki konumu nedeniyle yazılımın nesnenin hareketini doğru tahmin edemediği ve bu durumun sistemin "uç vaka" (edge case) olarak adlandırılan nadir senaryolarda yetersiz kalmasından kaynaklandığı değerlendirilmektedir. Olay sırasında araçlarda yolcu bulunmadığı ve herhangi bir yaralanma yaşanmadığı; sadece araçlarda ve sensörlerde hafif maddi hasar oluştuğu belirtilmiştir.
Waymo, olaydan sonra Phoenix Polisi ve Ulusal Karayolu Trafik Güvenliği İdaresi’ni (NHTSA) bilgilendirdiğini açıklamıştır. Şirket, söz konusu hatayı gidermek amacıyla bir yazılım güncellemesi geliştirmiş ve bu güncellemeyi 20 Aralık 2023 ile 12 Ocak 2024 tarihleri arasında tüm filosuna uyguladığını bildirmiştir. NHTSA ile yapılan istişarelerin ardından Waymo, Şubat 2024'te ilgili yazılım sürümü için "gönüllü geri çağırma" raporu yayımlamıştır.
Söz konusu geri çağırma bildirimi, araçların fiziksel olarak servise çağrılmasından ziyade, güvenlik odaklı bir yazılım değişikliğinin kamuoyuna şeffaf bir şekilde duyurulması niteliği taşımaktadır. Waymo, bu süreçte otonom sürüş hizmetinin kesintiye uğramadığını ifade etmiştir.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?