RISKYZ-2021-00015MITAIID4 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

Waymo otonom taksisinin yol çalışması dubaları nedeniyle duraksadığı ve yardım ekibinden uzaklaştığı bildirildi

Yayınlandı: 29 Temmuz 2026Olay: Mayıs 2021

Arizona'da bir Waymo otonom taksisinin yol dubaları nedeniyle rotasını şaşırdığı, trafiği aksattığı ve kendisine yardıma gelen teknik ekipten iki kez uzaklaşarak ancak manuel müdahaleyle durdurulabildiği bildirildi.

Olay

Arizona'nın Chandler şehrinde, Waymo şirketine ait tam otonom bir taksinin, yol çalışması için yerleştirilen trafik dubalarıyla karşılaştığında bir dizi sorun yaşadığı bildirildi. Yolcu Joel Johnson tarafından kaydedilen ve YouTube'da paylaşılan görüntülerde, aracın inşaat alanındaki dubalar nedeniyle rotasını belirleyemediği, trafiği aksatacak şekilde durakladığı ve kendisine yardıma gelen saha destek ekibinden beklenmedik şekilde uzaklaştığı görüldü.

Olayın gelişimi sırasında aracın önce dubalarla çevrili bir sokağa dönmek yerine duraksadığı, ardından şeridi kısmen kapatacak şekilde manevra yaptığı ve diğer sürücülerin hatalı şerit değiştirmesine neden olduğu aktarıldı. Waymo tarafından yapılan açıklamada, uzaktan destek birimindeki bir çalışanın araca "hatalı yönlendirme" sağladığı, bu durumun sistemin planlanan rotaya dönmesini zorlaştırdığı belirtildi. Virginia Üniversitesi'nden bilim insanı Noah Goodall, bu tür sistemlerin ayrıntılı haritalara dayandığını, yol çalışması gibi dinamik çevresel değişikliklerin sistemin karar verme mekanizmasını olumsuz etkileyebildiğini ifade etti.

Görüntülerde, saha destek ekibi araca müdahale etmek üzere yaklaştığı sırada, taksinin iki kez hareket ederek teknisyenlerden uzaklaştığı kaydedildi. Bu esnada araç içi sesli sistem üzerinden yolcuya koltuğunda kalması yönünde talimat verilirken, destek personelinin aracın hareketine şaşırdığı duyuldu. Yaklaşık 41 dakika süren aksaklığın ardından, bir teknisyenin araca binerek manuel kontrolü devraldığı ve yolcuyu varış noktasına ulaştırdığı bildirildi.

Waymo, durumun "ideal olmadığını" kabul etmekle birlikte, aracın süreç boyunca güvenli bir şekilde hareket ettiğini savundu. Şirket, olayın ardından operasyonel süreçlerin iyileştirildiğini açıkladı. Yolcu Johnson, yaşanan gecikme nedeniyle ücret iadesi aldığını; ancak teknolojinin genel gelişimine güvenmeye devam ettiğini belirtti. Güney Carolina Üniversitesi'nden Bryant Walker Smith ise olayda araç içi sistemler, uzaktan izleme birimi ve saha ekipleri arasında bir koordinasyon eksikliği yaşandığına dikkat çekti.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2021-00015: Waymo otonom taksisinin yol çalışması dubaları nedeniyle duraksadığı ve yardım ekibinden uzaklaştığı bildirildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2021-00015

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Waymo otonom sürüş sistemi (Waymo Driver)
Sektör
Ulaşım
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Mayıs 2021
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#Waymo#otonom sürüş#yapay zekâ hatası#ulaşım güvenliği#navigasyon hatası#kullanıcı deneyimi#yazılım hatası#yapay zekâ