Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Tesla’nın Tam Otonom Sürüş (FSD) yazılımındaki “hareketli duruş” özelliğinin trafik güvenliğini tehlikeye attığı gerekçesiyle geri çağrıldığı bildirildi
Tesla, FSD Beta yazılımındaki "hareketli duruş" özelliğinin trafik kurallarını ihlal edebileceği gerekçesiyle yaklaşık 54 bin aracı kapsayan bir yazılım güncellemesiyle bu özelliği devre dışı bırakmıştır.
Olay
Tesla’nın "Tam Otonom Sürüş" (FSD) Beta yazılımına eklenen "Assertive" (Atılgan) ve "Average" (Ortalama) sürüş profillerinin, aracın dur levhalarının bulunduğu kavşaklarda tam duruş yapmadan ilerlemesine olanak tanıyan "rolling stop" (hareketli duruş) özelliğini içerdiği bildirildi. Yazılımın; hızın saatte 5,6 milin altında olması, yaklaşan araç, yaya veya bisikletli tespit edilmemesi gibi belirli güvenlik koşulları sağlandığında aracın duraklamadan geçmesine izin verecek şekilde tasarlandığı belirtildi.
ABD Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA) ile yapılan görüşmelerde, dur levhalarında tam duruş yapılmamasının çarpışma riskini artırabileceği ve trafik yasalarını ihlal edebileceği değerlendirildi. Mevcut trafik kuralları dur levhalarında tam duruşu zorunlu kıldığından, sistemin bu davranışı sergilemesinin risk oluşturabileceği kaydedildi.
Ocak 2022’de Tesla, yaklaşık 53.822 aracı kapsayan gönüllü bir geri çağırma kararı aldığını ve bu özelliği bir yazılım güncellemesi (OTA) ile devre dışı bırakacağını duyurdu. Şirket, söz konusu fonksiyonla doğrudan bağlantılı herhangi bir kaza veya yaralanma vakasından haberdar olmadığını belirtti.
Olay, otonom sürüş sistemlerinin trafik kuralları ile sürücü beklentileri arasındaki dengeyi nasıl kurması gerektiğine dair tartışmaları tetikledi. Kaynaklar, "Atılgan" modunda takip mesafesinin azalması ve şerit değiştirme sıklığının artması gibi özelliklerin, yasal sınırlar ve güvenlik standartları açısından belirsizlikler taşıdığına dikkat çekmektedir.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
- [6]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?