RISKYZ-2023-00044MITAIID4 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

Waymo otonom sürüş yazılımındaki bir hatanın aynı çekiciyle iki kez çarpışmaya yol açtığı bildirildi

Yayınlandı: 29 Temmuz 2026Olay: Aralık 2023

Phoenix'te ters şekilde çekilen bir kamyonetin hareketini yanlış öngören iki Waymo otonom aracının birkaç dakika arayla aynı araca çarptığı ve şirketin bu hatayı gidermek için yazılım güncellemesi yayımlayarak gönüllü geri çağırma bildiriminde bulunduğu aktarıldı.

Olay

11 Aralık 2023 tarihinde Phoenix, Arizona’da gerçekleşen olayda, iki Waymo otonom aracının birkaç dakika arayla aynı çekiciye ve çekilen araca çarptığı bildirildi. Waymo tarafından yapılan açıklamaya göre, bir çekici tarafından arkaya bakacak şekilde (ters) ve trafik şeridine göre açılı bir şekilde çekilen kamyonet, otonom sistem tarafından algılanmış ancak aracın gelecekteki hareketi sistem tarafından yanlış öngörülmüştür.

Şirket, çarpışmaların temel nedenini çekilen kamyonet ile çekici arasındaki "yönelim uyumsuzluğu" (orientation mismatch) olarak tanımlamıştır. Çekilen aracın alışılagelmişin dışındaki konumu nedeniyle yazılımın nesnenin hareketini doğru tahmin edemediği ve bu durumun sistemin "uç vaka" (edge case) olarak adlandırılan nadir senaryolarda yetersiz kalmasından kaynaklandığı değerlendirilmektedir. Olay sırasında araçlarda yolcu bulunmadığı ve herhangi bir yaralanma yaşanmadığı; sadece araçlarda ve sensörlerde hafif maddi hasar oluştuğu belirtilmiştir.

Waymo, olaydan sonra Phoenix Polisi ve Ulusal Karayolu Trafik Güvenliği İdaresi’ni (NHTSA) bilgilendirdiğini açıklamıştır. Şirket, söz konusu hatayı gidermek amacıyla bir yazılım güncellemesi geliştirmiş ve bu güncellemeyi 20 Aralık 2023 ile 12 Ocak 2024 tarihleri arasında tüm filosuna uyguladığını bildirmiştir. NHTSA ile yapılan istişarelerin ardından Waymo, Şubat 2024'te ilgili yazılım sürümü için "gönüllü geri çağırma" raporu yayımlamıştır.

Söz konusu geri çağırma bildirimi, araçların fiziksel olarak servise çağrılmasından ziyade, güvenlik odaklı bir yazılım değişikliğinin kamuoyuna şeffaf bir şekilde duyurulması niteliği taşımaktadır. Waymo, bu süreçte otonom sürüş hizmetinin kesintiye uğramadığını ifade etmiştir.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2023-00044: Waymo otonom sürüş yazılımındaki bir hatanın aynı çekiciyle iki kez çarpışmaya yol açtığı bildirildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2023-00044

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Waymo otonom sürüş yazılımı (Jaguar I-Pace filosu)
Sektör
Ulaşım
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Aralık 2023
Yayınlandı
29.07.2026
Güncellendi
10.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#Waymo#yapay zekâ hatası#ulaşım güvenliği#otonom sürüş#yazılım hatası#doğrulama eksikliği#yeterlilik eksikliği#Google