Tesla Model X’in otopilot modundayken gerçekleştirdiği ölümlü kazada sistemin güvenliği ve sürücü uyarılarının yeterliliğinin tartışmaya açıldığı bildirildi

23 Mart 2018 tarihinde Kaliforniya, Mountain View yakınlarında meydana gelen kazada, Apple mühendisi Wei (Walter) Huang’ın kullandığı Tesla Model X aracın otopilot modundayken bir beton bariyerle çarpıştığı ve sürücünün hayatını kaybettiği bildirildi. Tesla tarafından yapılan açıklamada, kaza anında otopilot sisteminin devrede olduğu; sürüş esnasında sürücüye birkaç görsel ve bir işitsel uyarı yapıldığı ancak çarpışmadan önceki son altı saniye boyunca direksiyonda el tespit edilmediği belirtildi. Şirket verilerine göre, sürücünün önündeki engeli görmek için yaklaşık beş saniyelik süresi ve 150 metrelik mesafesi olmasına rağmen herhangi bir fren veya kaçınma manevrası yapılmadığı aktarıldı.

Maktulün ailesi, Huang’ın daha önce aracın aynı yol kesiminde otopilot devredeyken yoldan sapma eğilimi gösterdiğine dair Tesla bayisine defalarca şikâyette bulunduğunu iddia etmiştir. Buna karşılık Tesla sözcüleri, şirketin servis kayıtlarında bu yönde bir teknik şikâyete rastlanmadığını savunmuştur. Şirket ayrıca, aracın çarptığı bariyerin daha önceki bir kazadan dolayı hasarlı olmasının ve darbe emici özelliğini yitirmesinin, çarpışmanın şiddetini ve araçtaki hasarı artırdığını öne sürmüştür.

ABD Ulusal Ulaştırma Güvenlik Kurulu (NTSB), Tesla’nın devam eden soruşturma sürecinde elde edilen verileri resmî rapor tamamlanmadan kamuoyuyla paylaşma biçiminden ve soruşturma disiplinine uymamasından duyduğu rahatsızlığı dile getirmiştir. Olay, Seviye 2 otonom sürüş sistemlerinin sürücüleri yanlış bir güvenlik algısına sürükleyerek dikkat dağınıklığına yol açıp açmadığı ve sistemin karmaşık yol koşullarında nesne algılama kapasitesi üzerine tartışmaları yeniden gündeme taşımıştır.