RISKYZ-2016-00022MITAIID4 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

Tesla Model S’in otonom sürüş özelliklerinin duran bir aracı tespit edemeyerek çarpışmaya neden olduğu iddia edildi

Yayınlandı: 29 Temmuz 2026Olay: Mayıs 2016

İsviçre’de bir Tesla Model S sürücüsünün, takip ettiği aracın şerit değiştirmesiyle aniden karşısına çıkan duran minibüsü algılayamayan otonom sürüş sistemine aşırı güvenmesi sonucu çarpışma yaşadığı bildirildi.

Olay

İsviçre’de bir otoyolda seyir hâlinde olan Tesla Model S kullanıcısının, aracın Trafiğe Duyarlı Hız Sabitleyici (TACC) özelliği etkinken sol şeritte duran bir minibüse çarptığı bildirildi. Olay anına ilişkin paylaşılan kayıtlarda, Tesla’nın takip ettiği önündeki aracın, şeritte dörtlü ikaz lambaları yanık hâlde duran minibüsü fark ederek son anda şerit değiştirdiği; ancak Tesla’nın bu engeli algılayamadığı görüldü. Sistemin, önündeki aracın çekilmesiyle birlikte belirlenen hıza ulaşmak için hafifçe hızlandığı ve duran araca çarptığı aktarıldı.

Araç sahibi, sistemin daha önceki benzer durumlarda defalarca doğru şekilde yavaşlaması nedeniyle teknolojiye aşırı güvendiğini ve bu sebeple müdahalede geç kaldığını ifade etti. Sürücü; otomatik acil frenleme (AEB) sisteminin devreye girmediğini, çarpışma uyarısının çok geç verildiğini ve TACC sisteminin duran araca doğru hızlandığını öne sürdü. Tesla Avrupa ile iletişime geçtiğini belirten sürücü, şirketin kendisine "tüm sistemlerin beklendiği gibi çalıştığı" yönünde bir açıklama yaptığını bildirdi.

Tesla’nın kullanım kılavuzunda, Trafiğe Duyarlı Hız Sabitleyici sisteminin tüm nesneleri algılayamayabileceği, özellikle 80 km/s üzerindeki hızlarda takip edilen aracın yoldan çekilmesi durumunda sistemin duran araçlar, nesneler veya yayalar için fren yapmayabileceği konusunda açık uyarıların yer aldığı belirtildi. Olayda sistemin teknik bir arıza mı yaşadığı yoksa kılavuzda belirtilen operasyonel kısıtlamalar dâhilinde mi kaldığı konusu belirsizliğini korumaktadır.

Kaza sonucunda araçta ciddi maddi hasar oluştuğu, ancak herhangi bir yaralanma bildirilmediği aktarıldı. Bu vaka, sürücülerin otonom sürüş destek sistemlerine yönelik aşırı güven riskini ortaya koyan bir örnek teşkil etmektedir.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2016-00022: Tesla Model S’in otonom sürüş özelliklerinin duran bir aracı tespit edemeyerek çarpışmaya neden olduğu iddia edildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2016-00022

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Tesla Model S Autopilot ve Trafiğe Duyarlı Hız Sabitleyici (TACC)
Sektör
Ulaşım
Konum
İsviçre

Zaman Çizelgesi

Olay Tarihi
Mayıs 2016
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#yapay zekâ hatası#ulaşım güvenliği#aşırı güvenme#kullanıcı güvenliği#doğrulama eksikliği#navigasyon hatası#yapay zekâ#yazılım