Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Tesla Model S’in otonom sürüş özelliklerinin duran bir aracı tespit edemeyerek çarpışmaya neden olduğu iddia edildi
İsviçre’de bir Tesla Model S sürücüsünün, takip ettiği aracın şerit değiştirmesiyle aniden karşısına çıkan duran minibüsü algılayamayan otonom sürüş sistemine aşırı güvenmesi sonucu çarpışma yaşadığı bildirildi.
Olay
İsviçre’de bir otoyolda seyir hâlinde olan Tesla Model S kullanıcısının, aracın Trafiğe Duyarlı Hız Sabitleyici (TACC) özelliği etkinken sol şeritte duran bir minibüse çarptığı bildirildi. Olay anına ilişkin paylaşılan kayıtlarda, Tesla’nın takip ettiği önündeki aracın, şeritte dörtlü ikaz lambaları yanık hâlde duran minibüsü fark ederek son anda şerit değiştirdiği; ancak Tesla’nın bu engeli algılayamadığı görüldü. Sistemin, önündeki aracın çekilmesiyle birlikte belirlenen hıza ulaşmak için hafifçe hızlandığı ve duran araca çarptığı aktarıldı.
Araç sahibi, sistemin daha önceki benzer durumlarda defalarca doğru şekilde yavaşlaması nedeniyle teknolojiye aşırı güvendiğini ve bu sebeple müdahalede geç kaldığını ifade etti. Sürücü; otomatik acil frenleme (AEB) sisteminin devreye girmediğini, çarpışma uyarısının çok geç verildiğini ve TACC sisteminin duran araca doğru hızlandığını öne sürdü. Tesla Avrupa ile iletişime geçtiğini belirten sürücü, şirketin kendisine "tüm sistemlerin beklendiği gibi çalıştığı" yönünde bir açıklama yaptığını bildirdi.
Tesla’nın kullanım kılavuzunda, Trafiğe Duyarlı Hız Sabitleyici sisteminin tüm nesneleri algılayamayabileceği, özellikle 80 km/s üzerindeki hızlarda takip edilen aracın yoldan çekilmesi durumunda sistemin duran araçlar, nesneler veya yayalar için fren yapmayabileceği konusunda açık uyarıların yer aldığı belirtildi. Olayda sistemin teknik bir arıza mı yaşadığı yoksa kılavuzda belirtilen operasyonel kısıtlamalar dâhilinde mi kaldığı konusu belirsizliğini korumaktadır.
Kaza sonucunda araçta ciddi maddi hasar oluştuğu, ancak herhangi bir yaralanma bildirilmediği aktarıldı. Bu vaka, sürücülerin otonom sürüş destek sistemlerine yönelik aşırı güven riskini ortaya koyan bir örnek teşkil etmektedir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?