Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Tesla’nın Autopilot sisteminin motosikletlileri fark edemediği şüphesiyle yeni incelemeler başlatıldı
Tesla araçlarının motosikletlilere arkadan çarptığı iki ölümlü kaza sonrası, Autopilot sisteminin motosikletleri algılama yeteneği federal yetkililerce incelemeye alındı.
Olay
ABD Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA), Tesla araçlarının karıştığı ve iki motosiklet sürücüsünün ölümüyle sonuçlanan kazalar üzerine inceleme başlattı. Temmuz 2022’de Utah ve Kaliforniya’da meydana gelen olaylarda, Tesla araçlarının gece karanlığında önlerinde seyreden motosikletlere arkadan çarptığı bildirildi. Utah’taki kazada Tesla sürücüsü, olay anında Autopilot sisteminin aktif olduğunu ifade ederken; Kaliforniya'daki kazada sistemin devrede olup olmadığına yönelik incelemeler sürmektedir.
Federal düzenleyiciler, Tesla’nın kısmi otonom sürüş sistemlerinin motosikletleri algılamada yetersiz kalabileceği ve bu durumun otoyollarda yeni bir güvenlik riski oluşturabileceği ihtimali üzerinde durmaktadır. NHTSA, bu vakaların sistemin duran acil durum araçlarını fark edememesiyle ilgili yürütülen daha geniş kapsamlı bir soruşturmaya dahil edilebileceğini belirtti. Kurumun verilerine göre, Temmuz 2021 ile Mayıs 2022 arasında Autopilot kullanan Tesla araçlarının karıştığı 273 kaza rapor edilmiştir.
Tesla, gelişmiş sürücü destek sistemlerinin sürüşü daha güvenli hale getirdiğini savunmaktadır. Şirket, kaza verilerindeki yüksekliğin, sistemin rakiplerine oranla çok daha fazla araçta bulunmasından ve gerçek zamanlı telemetri verileri sayesinde hızlı raporlama yapılabilmesinden kaynaklandığını öne sürmektedir. Bununla birlikte, sistemin karanlıkta uyarı ışıklarını, trafik konilerini veya motosiklet gibi daha küçük taşıtları ayırt etme kapasitesine yönelik teknik belirsizlikler, federal düzeydeki "Mühendislik Analizi" aşamasında incelenmeye devam etmektedir.
Söz konusu kazalarda sistemin teknik bir yetersizlik mi sergilediği yoksa sürücü denetimindeki bir eksiklikle mi birleştiği henüz kesinleşmemiştir. NHTSA, sistemin nesne algılama ve frenleme kararlarını nasıl yapılandırdığını belirlemek amacıyla veri toplama sürecini sürdürmektedir.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?