Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Waymo otonom araçlarının karıştığı güvenlik olaylarının yolcularda mahsur kalma hissi yarattığı ve bir bisikletliyle çarpışmayla sonuçlandığı bildirildi
San Francisco'da bir Waymo aracının sensörlerinin kapatılması sonucu yolcuların mahsur kaldığı, bir başka olayda ise sistemin bir kamyonun arkasından gelen bisikletliyi fark edemeyerek çarpıştığı bildirildi.
Olay
San Francisco’da Robert Moreno ve eşinin içinde bulunduğu Waymo otonom aracının, trafik ışığı yeşile döndüğü sırada bir yayanın aracın sensörlerini kapatmaya çalışması sonucu hareket edemediği ve yolcuların araç içinde kendilerini "kapana kısılmış" hissettikleri bildirildi. Moreno’nun anlatımına göre, gece vakti ve şiddetli yağmur altında gerçekleşen olayda, araç dışına çıkmanın güvenli olup olmadığını bilemedikleri için kontrol kaybı ve panik yaşanmıştır. Waymo destek ekibinin müdahale sırasında yolculara araç içinde kalmalarını tavsiye ettiği; şirketin daha sonra yaptığı açıklamada da benzer durumlarda en güvenli seçeneğin araçta kalmak olduğunu belirttiği aktarıldı.
Aynı dönemde, San Francisco’nun Potrero Hill bölgesinde bir Waymo aracının bir bisikletliyle çarpıştığı bir kaza yaşandı. Waymo tarafından yapılan açıklamada, aracın bir kavşakta durduğu, karşı yönden gelen büyük bir kamyonun geçişinden sonra hareket ettiği sırada, kamyonun hemen arkasından gelen ve kamyon tarafından perdelenen bir bisikletlinin aracın yoluna çıktığı belirtildi. Şirket, sistemin bisikletliyi gördüğü anda sert fren yaptığını ancak çarpışmanın önlenemediğini, bisikletlinin ise olaydan hafif sıyrıklarla kurtulduğunu bildirdi.
San Francisco Bisiklet Koalisyonu (San Francisco Bicycle Coalition), Waymo’nun kazanın sorumluluğunu bisikletliye yükleyen yaklaşımını eleştirerek, güvenli sürüşün görüş alanındaki engellerin arkasında birileri olabileceği varsayımıyla hareket etmeyi gerektirdiğini savundu. UC Berkeley’den Prof. Scott Moura ise otonom araç teknolojisinin henüz "insan seviyesinde güvenli" olmadığını ve geliştirilmeye muhtaç olduğunu değerlendirdi. Olaylar, otonom sistemlerin beklenmedik dış müdahaleler ve karmaşık trafik senaryoları karşısındaki yeterliliğine dair tartışmaları yeniden gündeme getirmiştir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?