RISKYZ-2016-00015MITAIID5 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

Tesla’nın "Tam Otonom Sürüş" (FSD) yazılımının trafik güvenliği riski oluşturduğu gerekçesiyle geri çağrıldığı bildirildi

Yayınlandı: 29 Temmuz 2026Olay: Eylül 2016

NHTSA, Tesla’nın FSD Beta yazılımının kavşaklarda trafik kurallarını ihlal ederek kaza riskini artırdığını tespit etmiş; Tesla ise analize katılmamasına rağmen 362 binden fazla aracı yazılım güncellemesi yoluyla geri çağırmayı kabul etmiştir.

Olay

ABD Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA), Tesla’nın "Tam Otonom Sürüş" (FSD) Beta yazılımıyla donatılmış yaklaşık 362.758 aracı, sistemin kaza riskini artırdığı gerekçesiyle geri çağırdığını duyurdu. Kurum tarafından yayımlanan belgelerde, sistemin kavşaklarda trafik güvenliği yasalarına yeterince uymadığı ve "hukuka aykırı veya öngörülemez" manevralara izin verebildiği değerlendirildi. Geri çağırma işleminin 2016-2023 yılları arasında üretilen Model S, Model X, Model 3 ve Model Y araçlarını kapsadığı belirtildi.

NHTSA’nın analizine göre, FSD Beta sisteminin sadece dönüşe izin verilen şeritlerden kavşağa düz girmek, dur işaretli kavşaklarda tam duruş yapmamak ve sarı trafik ışıklarında gerekli dikkati göstermeden ilerlemek gibi güvensiz eylemlerde bulunabildiği ifade edildi. Ayrıca sistemin, hız sınırı tabelalarındaki değişikliklere uygun tepki vermediği veya sürücünün hız sınırını aşmaya yönelik müdahalelerini yeterince denetleyemediği öne sürüldü. Güvenlik uzmanları genel olarak bu tür sistemlerin sürücülerde "aracın kendi kendine gittiği" yönünde hatalı bir güven algısı oluşturabileceği ve bunun acil durumlarda müdahale süresini geciktirebileceği yönündeki endişelerini dile getirmektedir.

Tesla, NHTSA’nın analiz sonuçlarına katılmadığını ancak "ihtiyatlılık ilkesi" çerçevesinde gönüllü geri çağırmayı kabul ettiğini bildirdi. Şirket CEO’su Elon Musk, kablosuz internet üzerinden gönderilen bir yazılım güncellemesi (OTA) için "geri çağırma" teriminin kullanılmasının hatalı olduğunu savundu. Sorunun, etkilenen araçlara gönderilecek ücretsiz bir yazılım güncellemesiyle giderilmesinin hedeflendiği açıklandı.

NHTSA, Tesla’nın söz konusu sürüş koşullarıyla bağlantılı olabileceğini değerlendirdiği 18 garanti talebi tespit ettiğini, ancak bu spesifik hatalardan kaynaklanan herhangi bir ölüm veya yaralanma vakasından haberdar olunmadığını belirtti. Bununla birlikte kurumun, Tesla’nın "Autopilot" sistemini kullanan araçların karıştığı 41 kazaya (19 ölümle sonuçlanan) yönelik daha geniş kapsamlı incelemelerinin sürdüğü vurgulandı.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2016-00015: Tesla’nın "Tam Otonom Sürüş" (FSD) yazılımının trafik güvenliği riski oluşturduğu gerekçesiyle geri çağrıldığı bildirildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2016-00015

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Tesla Full Self-Driving (FSD) Beta yazılımı
Sektör
Ulaşım
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Eylül 2016
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#yapay zekâ hatası#ulaşım güvenliği#kullanıcı güvenliği#otomatik karar verme#yazılım hatası#doğrulama eksikliği#yapay zekâ#hesap verebilirlik