RISKYZ-2018-00012MITAIID4 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

Kaliforniya’da otoyolda Autopilot devredeyken bir Tesla’nın park halindeki itfaiye aracına çarptığı bildirildi

Yayınlandı: 29 Temmuz 2026Olay: Ocak 2018

Autopilot sistemi devrede olan bir Tesla aracın, sürücünün dikkatsizliği ve sistemin duran nesneyi algılayamaması sonucu park halindeki itfaiye aracına çarptığı, olayda sistemin tasarım sınırlarının ve sürücü suistimalinin etkili olduğu bildirildi.

Olay

22 Ocak 2018 tarihinde Kaliforniya, Culver City'de bir Tesla Model S aracın, otoyolun HOV (yüksek doluluklu araç) şeridinde başka bir kaza için park halinde bulunan ve acil durum ışıkları yanan bir itfaiye aracına arkadan çarptığı bildirildi. Ulusal Ulaştırma Güvenliği Kurulu (NTSB) tarafından yürütülen incelemede, kaza anında aracın "Autopilot" sisteminin etkin olduğu belirlendi. Olayda sürücü veya itfaiye personeli yaralanmamıştır.

NTSB raporuna göre, veri kayıtları Autopilot sisteminin son 13 dakika 48 saniyelik sürüş segmentinin yalnızca toplam 51 saniyesinde sürücünün ellerini direksiyonda algıladığını ve bu süre zarfında sürücüye defalarca görsel ve işitsel uyarı yapıldığını ortaya koymuştur. Sürücü, ifadesinde elinin direksiyonun alt kısmına temas eder şekilde dizinde olduğunu belirtmiş; ancak kaza anında kahve içip simit yediğini, önündeki aracın aniden şerit değiştirmesiyle park halindeki itfaiye aracını fark edemediğini dile getirmiştir.

Teknik incelemede, Tesla'nın önündeki aracı takip ettiği, ancak öndeki aracın itfaiye kamyonundan kaçınmak için şerit değiştirmesinin ardından sistemin duran nesneyi (itfaiye aracını) algılayamadığı değerlendirilmektedir. Sistem, önündeki yolun boşaldığını varsayarak hızını 21 milden 31 mile çıkarmış ve otomatik acil frenleme sistemi çarpışma öncesinde devreye girmemiştir. NTSB, kazanın muhtemel nedenini sürücünün sisteme aşırı güvenmesi ve dikkatsizliği olarak tanımlarken; Tesla'nın sistem tasarımının da sürücünün görevden bu denli uzaklaşmasına izin vermesini bir faktör olarak raporuna eklemiştir.

Tesla yetkilileri olayla ilgili yaptıkları açıklamada, Autopilot sisteminin tam otonom bir sürüş sistemi olmadığını, sürücünün her an müdahaleye hazır olması gerektiğini vurgulamıştır. Şirket, kazadan sonraki süreçte sürücü uyarı sistemlerinde ve ellerin direksiyonda olma kontrolü aralıklarında güncellemeler yapıldığını bildirmiştir.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2018-00012: Kaliforniya’da otoyolda Autopilot devredeyken bir Tesla’nın park halindeki itfaiye aracına çarptığı bildirildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2018-00012

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Tesla Autopilot (Gelişmiş Sürücü Destek Sistemi)
Sektör
Ulaşım
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Ocak 2018
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#ulaşım güvenliği#yapay zekâ hatası#aşırı güvenme#kullanıcı güvenliği#otomatik karar verme#yeterlilik eksikliği#hesap verebilirlik