Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Tesla araçlarında "hayalet frenleme" vakalarının arttığı ve güvenlik riskleri oluşturduğu iddia edildi
Tesla araçlarının otoyol hızlarında seyrederken herhangi bir engel olmaksızın aniden fren yapmasıyla karakterize edilen "hayalet frenleme" vakalarının, şirketin radar sensörlerini kaldırıp kamera tabanlı sisteme geçmesiyle arttığı ve güvenlik riski oluşturduğu öne sürüldü.
Olay
Tesla kullanıcılarının, araçlarının otoyol hızlarında seyrederken ortada görünür bir engel olmamasına rağmen aniden ve sert bir şekilde fren yapması (hayalet frenleme/phantom braking) şikayetlerinde belirgin bir artış yaşandığı bildirildi. ABD Ulusal Karayolu Trafik Güvenliği İdaresi'ne (NHTSA) yapılan başvuruların, Tesla'nın radar sensörlerini devre dışı bırakıp yalnızca kamera tabanlı "Tesla Vision" sistemine geçiş yapmasının ardından üç ay içinde 34'ten 107'ye yükseldiği aktarıldı. İlerleyen süreçte NHTSA'nın Tesla'ya gönderdiği bilgi talebi mektubunda bu şikayet sayısının 750'nin üzerine çıktığı ortaya çıktı.
Sürücüler, sistemin karşı şeritten gelen kamyonları, yoldaki plastik poşetleri veya gölgeleri yanlış algılayarak acil durum frenini devreye soktuğunu öne sürdü. Carnegie Mellon Üniversitesi'nden Prof. Phil Koopman, bu durumun farklı sensör türleri (radar, lidar) arasında çapraz doğrulama yapılmamasından kaynaklanabileceğini; tek bir sensör tipine (kamera) güvenilmesinin karar eşiği hatalarına yol açabileceğini değerlendirmektedir. Bazı şikayet dosyalarında ani yavaşlamanın yolcuların sarsılmasına ve arkadaki araçlar için kaza riski oluşmasına neden olduğu; bir kullanıcının, hamile eşinin emniyet kemeri baskısı nedeniyle fiziksel rahatsızlık yaşadığını rapor ettiği görüldü.
NHTSA, konuyla ilgili resmi bir inceleme başlatarak Tesla'dan sistemin karar alma süreçlerine, yazılım sürümlerine ve sensör verilerine ilişkin ayrıntılı bilgi talep etti. Tesla'nın Ekim 2021'de FSD yazılımının bir sürümünü hatalı çarpışma uyarıları nedeniyle geri çağırdığı ancak şikayetlerin bu düzeltmeden sonra da yüksek seyrettiği aktarıldı. Şirket CEO'su Elon Musk, Autopilot sisteminin genel sürüş verilerine göre daha güvenli olduğunu savunurken, NHTSA şikayetlerinin bireysel kullanıcı beyanlarına dayandığı ve her vakanın kurum tarafından henüz bağımsız olarak bütünüyle doğrulanmadığı not edilmiştir.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
- [6]
- [7]
- [8]
- [9]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?