RISKYZ-2024-00241MITAIID4 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

Waymo otonom araçlarının karıştığı güvenlik olaylarının yolcularda mahsur kalma hissi yarattığı ve bir bisikletliyle çarpışmayla sonuçlandığı bildirildi

Yayınlandı: 29 Temmuz 2026Olay: Şubat 2024

San Francisco'da bir Waymo aracının sensörlerinin kapatılması sonucu yolcuların mahsur kaldığı, bir başka olayda ise sistemin bir kamyonun arkasından gelen bisikletliyi fark edemeyerek çarpıştığı bildirildi.

Olay

San Francisco’da Robert Moreno ve eşinin içinde bulunduğu Waymo otonom aracının, trafik ışığı yeşile döndüğü sırada bir yayanın aracın sensörlerini kapatmaya çalışması sonucu hareket edemediği ve yolcuların araç içinde kendilerini "kapana kısılmış" hissettikleri bildirildi. Moreno’nun anlatımına göre, gece vakti ve şiddetli yağmur altında gerçekleşen olayda, araç dışına çıkmanın güvenli olup olmadığını bilemedikleri için kontrol kaybı ve panik yaşanmıştır. Waymo destek ekibinin müdahale sırasında yolculara araç içinde kalmalarını tavsiye ettiği; şirketin daha sonra yaptığı açıklamada da benzer durumlarda en güvenli seçeneğin araçta kalmak olduğunu belirttiği aktarıldı.

Aynı dönemde, San Francisco’nun Potrero Hill bölgesinde bir Waymo aracının bir bisikletliyle çarpıştığı bir kaza yaşandı. Waymo tarafından yapılan açıklamada, aracın bir kavşakta durduğu, karşı yönden gelen büyük bir kamyonun geçişinden sonra hareket ettiği sırada, kamyonun hemen arkasından gelen ve kamyon tarafından perdelenen bir bisikletlinin aracın yoluna çıktığı belirtildi. Şirket, sistemin bisikletliyi gördüğü anda sert fren yaptığını ancak çarpışmanın önlenemediğini, bisikletlinin ise olaydan hafif sıyrıklarla kurtulduğunu bildirdi.

San Francisco Bisiklet Koalisyonu (San Francisco Bicycle Coalition), Waymo’nun kazanın sorumluluğunu bisikletliye yükleyen yaklaşımını eleştirerek, güvenli sürüşün görüş alanındaki engellerin arkasında birileri olabileceği varsayımıyla hareket etmeyi gerektirdiğini savundu. UC Berkeley’den Prof. Scott Moura ise otonom araç teknolojisinin henüz "insan seviyesinde güvenli" olmadığını ve geliştirilmeye muhtaç olduğunu değerlendirdi. Olaylar, otonom sistemlerin beklenmedik dış müdahaleler ve karmaşık trafik senaryoları karşısındaki yeterliliğine dair tartışmaları yeniden gündeme getirmiştir.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2024-00241: Waymo otonom araçlarının karıştığı güvenlik olaylarının yolcularda mahsur kalma hissi yarattığı ve bir bisikletliyle çarpışmayla sonuçlandığı bildirildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2024-00241

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Waymo otonom sürüş sistemi ve robotaksi hizmeti
Sektör
Ulaşım
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Şubat 2024
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#Waymo#ulaşım güvenliği#yapay zekâ hatası#kullanıcı güvenliği#tüketici güvenliği#fiziksel kontrol kaybı#navigasyon hatası#yapay zekâ