Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Tesla’nın "Tam Otonom Sürüş" (FSD) yazılımının trafik güvenliği riski oluşturduğu gerekçesiyle geri çağrıldığı bildirildi
NHTSA, Tesla’nın FSD Beta yazılımının kavşaklarda trafik kurallarını ihlal ederek kaza riskini artırdığını tespit etmiş; Tesla ise analize katılmamasına rağmen 362 binden fazla aracı yazılım güncellemesi yoluyla geri çağırmayı kabul etmiştir.
Olay
ABD Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA), Tesla’nın "Tam Otonom Sürüş" (FSD) Beta yazılımıyla donatılmış yaklaşık 362.758 aracı, sistemin kaza riskini artırdığı gerekçesiyle geri çağırdığını duyurdu. Kurum tarafından yayımlanan belgelerde, sistemin kavşaklarda trafik güvenliği yasalarına yeterince uymadığı ve "hukuka aykırı veya öngörülemez" manevralara izin verebildiği değerlendirildi. Geri çağırma işleminin 2016-2023 yılları arasında üretilen Model S, Model X, Model 3 ve Model Y araçlarını kapsadığı belirtildi.
NHTSA’nın analizine göre, FSD Beta sisteminin sadece dönüşe izin verilen şeritlerden kavşağa düz girmek, dur işaretli kavşaklarda tam duruş yapmamak ve sarı trafik ışıklarında gerekli dikkati göstermeden ilerlemek gibi güvensiz eylemlerde bulunabildiği ifade edildi. Ayrıca sistemin, hız sınırı tabelalarındaki değişikliklere uygun tepki vermediği veya sürücünün hız sınırını aşmaya yönelik müdahalelerini yeterince denetleyemediği öne sürüldü. Güvenlik uzmanları genel olarak bu tür sistemlerin sürücülerde "aracın kendi kendine gittiği" yönünde hatalı bir güven algısı oluşturabileceği ve bunun acil durumlarda müdahale süresini geciktirebileceği yönündeki endişelerini dile getirmektedir.
Tesla, NHTSA’nın analiz sonuçlarına katılmadığını ancak "ihtiyatlılık ilkesi" çerçevesinde gönüllü geri çağırmayı kabul ettiğini bildirdi. Şirket CEO’su Elon Musk, kablosuz internet üzerinden gönderilen bir yazılım güncellemesi (OTA) için "geri çağırma" teriminin kullanılmasının hatalı olduğunu savundu. Sorunun, etkilenen araçlara gönderilecek ücretsiz bir yazılım güncellemesiyle giderilmesinin hedeflendiği açıklandı.
NHTSA, Tesla’nın söz konusu sürüş koşullarıyla bağlantılı olabileceğini değerlendirdiği 18 garanti talebi tespit ettiğini, ancak bu spesifik hatalardan kaynaklanan herhangi bir ölüm veya yaralanma vakasından haberdar olunmadığını belirtti. Bununla birlikte kurumun, Tesla’nın "Autopilot" sistemini kullanan araçların karıştığı 41 kazaya (19 ölümle sonuçlanan) yönelik daha geniş kapsamlı incelemelerinin sürdüğü vurgulandı.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
- [6]
- [7]
- [8]
- [9]
- [10]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?