Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Kaliforniya’da otoyolda Autopilot devredeyken bir Tesla’nın park halindeki itfaiye aracına çarptığı bildirildi
Autopilot sistemi devrede olan bir Tesla aracın, sürücünün dikkatsizliği ve sistemin duran nesneyi algılayamaması sonucu park halindeki itfaiye aracına çarptığı, olayda sistemin tasarım sınırlarının ve sürücü suistimalinin etkili olduğu bildirildi.
Olay
22 Ocak 2018 tarihinde Kaliforniya, Culver City'de bir Tesla Model S aracın, otoyolun HOV (yüksek doluluklu araç) şeridinde başka bir kaza için park halinde bulunan ve acil durum ışıkları yanan bir itfaiye aracına arkadan çarptığı bildirildi. Ulusal Ulaştırma Güvenliği Kurulu (NTSB) tarafından yürütülen incelemede, kaza anında aracın "Autopilot" sisteminin etkin olduğu belirlendi. Olayda sürücü veya itfaiye personeli yaralanmamıştır.
NTSB raporuna göre, veri kayıtları Autopilot sisteminin son 13 dakika 48 saniyelik sürüş segmentinin yalnızca toplam 51 saniyesinde sürücünün ellerini direksiyonda algıladığını ve bu süre zarfında sürücüye defalarca görsel ve işitsel uyarı yapıldığını ortaya koymuştur. Sürücü, ifadesinde elinin direksiyonun alt kısmına temas eder şekilde dizinde olduğunu belirtmiş; ancak kaza anında kahve içip simit yediğini, önündeki aracın aniden şerit değiştirmesiyle park halindeki itfaiye aracını fark edemediğini dile getirmiştir.
Teknik incelemede, Tesla'nın önündeki aracı takip ettiği, ancak öndeki aracın itfaiye kamyonundan kaçınmak için şerit değiştirmesinin ardından sistemin duran nesneyi (itfaiye aracını) algılayamadığı değerlendirilmektedir. Sistem, önündeki yolun boşaldığını varsayarak hızını 21 milden 31 mile çıkarmış ve otomatik acil frenleme sistemi çarpışma öncesinde devreye girmemiştir. NTSB, kazanın muhtemel nedenini sürücünün sisteme aşırı güvenmesi ve dikkatsizliği olarak tanımlarken; Tesla'nın sistem tasarımının da sürücünün görevden bu denli uzaklaşmasına izin vermesini bir faktör olarak raporuna eklemiştir.
Tesla yetkilileri olayla ilgili yaptıkları açıklamada, Autopilot sisteminin tam otonom bir sürüş sistemi olmadığını, sürücünün her an müdahaleye hazır olması gerektiğini vurgulamıştır. Şirket, kazadan sonraki süreçte sürücü uyarı sistemlerinde ve ellerin direksiyonda olma kontrolü aralıklarında güncellemeler yapıldığını bildirmiştir.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?