Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Otonom Robotaksinin, Bagajda Mahsur Kalan Bir Kişiyi Tespit Edemeden Hizmete Devam Ettiği ve Güvenlik Riski Oluşturduğu Bildirilmektedir
Los Angeles’ta önceki yolcunun açık bıraktığı bagaja giren bir kişi, Waymo robotaksi yeni müşterileri almak üzere hareket ettikten sonra fark edildi; polis kişiyi araçtan çıkarırken Waymo benzer olayları önlemek için değişiklikler uyguladığını açıkladı.
Olay
Los Angeles’ın MacArthur Park yakınlarında bir yaya, önceki yolcunun açık bıraktığı belirtilen bagaj bölümünden sürücüsüz bir Waymo aracına girdi. Araç daha sonra yeni bir yolculuk talebini karşılamak üzere hareket etti ve South Westlake Avenue ile 6th Street yakınlarında bir anne ile kızını almak için durdu. Yeni müşteriler, araca binmeden önce bagaj bölümünde bir kişinin bulunduğunu fark etti.
Sosyal medyada yayılan görüntülerde adam, araçtan çıkamadığını söyledi. Anne yolculuğu iptal ederek acil yardım hattını aradı ve Waymo destek birimiyle iletişime geçti. Polis ekipleri olay yerine gelerek adamı araçtan çıkardı. İlk görüntülerde kişinin gözaltına alındığı izlenimi oluşsa da Los Angeles polisi herhangi bir suç tespit edilmediğini ve tutuklama yapılmadığını bildirdi.
Waymo, kişinin önceki yolcunun açık bıraktığı bagaja dışarıdan girdiğini doğruladı. Şirket, yeni müşterinin fiziksel zarar görmediğini, destek ekibinin kendisiyle iletişim kurduğunu ve yaşanan durumu kabul edilemez olarak değerlendirdiğini açıkladı. Benzer olayların önlenmesi amacıyla sistem ve işletme süreçlerinde değişiklikler uygulandığı belirtildi.
Kamuya açık açıklamalarda aracın iç algılama sistemlerinin bagajdaki kişiyi tespit edip etmediği, kişinin araç hareket etmeden önce fark edilip edilmediği veya bagajı içeriden bağımsız olarak açmasının mümkün olup olmadığı belirtilmedi. Bu nedenle olay, otonom sürüş sisteminin kişiyi kesin olarak algılayamadığı şeklinde değil, yetkisiz bir kişinin araç içinde bulunmasının sonraki yolculuk başlamadan önce operasyonel süreçler tarafından engellenemediği bir güvenlik vakası olarak değerlendirilmiştir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?