Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Tesla’nın Autopilot sisteminin Tayvan’da yol bakım aracını tespit edemeyerek kazaya sebebiyet verdiği ve olay sonrası bir can kaybı yaşandığı bildirildi
Tayvan’da Autopilot modundaki bir Tesla’nın yol bakım aracını tespit edemeyerek çarpmasıyla başlayan kaza sürecinde, olay yerine müdahale eden bir işçinin başka bir aracın çarpması sonucu hayatını kaybettiği bildirildi.
Olay
8 Mart 2022 tarihinde (bazı kaynaklara göre 7 Mart) Tayvan’ın Taoyuan şehrindeki bir otoyolda, Autopilot sistemi devrede olan bir Tesla Model 3’ün, yol üzerinde duran parlak sarı renkli bir yol bakım kamyonuna arkadan çarptığı bildirildi. 46 yaşındaki sürücünün, sistemi etkinleştirdikten sonra yola dikkatini vermediğini kolluk kuvvetlerine itiraf ettiği aktarıldı. Aracın sensörlerinin; üzerinde büyük yansıtıcılar ve dijital uyarı levhası bulunan kamyonu tespit edemediği ve çarpışma öncesinde frenleme yapmadığı öne sürüldü.
İlk çarpışmanın ardından, kaza alanını emniyete almak ve trafik konileri yerleştirmek için yola çıkan 25 yaşındaki bir yol bakım işçisine, yaklaşık 20 saniye sonra başka bir aracın çarptığı belirtildi. Ağır yaralanan işçinin hastanede hayatını kaybettiği; Tesla sürücüsünün ise kazayı hafif yaralanmayla atlattığı kaydedildi. Olayda can kaybına neden olan ikinci çarpışmanın doğrudan Tesla sistemiyle ilgili olmadığı, ancak sistemin hatasıyla başlayan kaza zincirinin bu tehlikeli duruma zemin hazırladığı değerlendirilmektedir.
Söz konusu olay, Tesla’nın acil durum araçlarını tespit edememe sorununa yönelik yayımladığı yazılım güncellemelerinin etkinliğinin sorgulanmasına neden olmuştur. Şirketin daha önce benzer kazalar nedeniyle ABD’deki Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA) tarafından yürütülen soruşturmalar kapsamında güncellemeler sunduğu bilinmektedir. Ancak Tayvan’daki bu vaka, sistemin görsel uyarıları algılama kapasitesindeki eksikliklerin ve sürücülerin sisteme duyduğu aşırı güvenin risk oluşturmaya devam ettiğini göstermektedir.
Tayvan polisi, her iki araç sürücüsü hakkında kamu güvenliğini tehlikeye atma şüphesiyle soruşturma başlatıldığını açıklamıştır. Olayın teknik detayları ve sistemin neden tepki vermediği konusundaki veriler Tesla tarafından kamuoyuyla paylaşılmadığı için sistem hatasının kesin niteliği bağımsız kaynaklarca bütünüyle doğrulanamamıştır.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?