RISKYZ-2020-00076MITAIID6 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

Tesla’nın Tam Otonom Sürüş (FSD) yazılımındaki “hareketli duruş” özelliğinin trafik güvenliğini tehlikeye attığı gerekçesiyle geri çağrıldığı bildirildi

Yayınlandı: 29 Temmuz 2026Olay: Ekim 2020

Tesla, FSD Beta yazılımındaki "hareketli duruş" özelliğinin trafik kurallarını ihlal edebileceği gerekçesiyle yaklaşık 54 bin aracı kapsayan bir yazılım güncellemesiyle bu özelliği devre dışı bırakmıştır.

Olay

Tesla’nın "Tam Otonom Sürüş" (FSD) Beta yazılımına eklenen "Assertive" (Atılgan) ve "Average" (Ortalama) sürüş profillerinin, aracın dur levhalarının bulunduğu kavşaklarda tam duruş yapmadan ilerlemesine olanak tanıyan "rolling stop" (hareketli duruş) özelliğini içerdiği bildirildi. Yazılımın; hızın saatte 5,6 milin altında olması, yaklaşan araç, yaya veya bisikletli tespit edilmemesi gibi belirli güvenlik koşulları sağlandığında aracın duraklamadan geçmesine izin verecek şekilde tasarlandığı belirtildi.

ABD Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA) ile yapılan görüşmelerde, dur levhalarında tam duruş yapılmamasının çarpışma riskini artırabileceği ve trafik yasalarını ihlal edebileceği değerlendirildi. Mevcut trafik kuralları dur levhalarında tam duruşu zorunlu kıldığından, sistemin bu davranışı sergilemesinin risk oluşturabileceği kaydedildi.

Ocak 2022’de Tesla, yaklaşık 53.822 aracı kapsayan gönüllü bir geri çağırma kararı aldığını ve bu özelliği bir yazılım güncellemesi (OTA) ile devre dışı bırakacağını duyurdu. Şirket, söz konusu fonksiyonla doğrudan bağlantılı herhangi bir kaza veya yaralanma vakasından haberdar olmadığını belirtti.

Olay, otonom sürüş sistemlerinin trafik kuralları ile sürücü beklentileri arasındaki dengeyi nasıl kurması gerektiğine dair tartışmaları tetikledi. Kaynaklar, "Atılgan" modunda takip mesafesinin azalması ve şerit değiştirme sıklığının artması gibi özelliklerin, yasal sınırlar ve güvenlik standartları açısından belirsizlikler taşıdığına dikkat çekmektedir.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2020-00076: Tesla’nın Tam Otonom Sürüş (FSD) yazılımındaki “hareketli duruş” özelliğinin trafik güvenliğini tehlikeye attığı gerekçesiyle geri çağrıldığı bildirildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2020-00076

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtlı
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Tesla Tam Otonom Sürüş (FSD) Beta yazılımı (v. 2020.40.4.10 ile v. 2021.44.30.12 arası sürümler)
Sektör
Ulaşım
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Ekim 2020
Yayınlandı
29.07.2026
Güncellendi
14.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#yapay zekâ hatası#ulaşım güvenliği#geri çekme#tüketici güvenliği#kamu güvenliği#yazılım hatası#otonom sürüş#Tesla