Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Tesla Autopilot sisteminin direksiyon başında uyuyan alkollü bir sürücüyle yola devam ettiği değerlendirilen olayda araç polis müdahalesiyle durduruldu
Alkollü bir sürücünün direksiyon başında uyuduğu Tesla aracın, Autopilot sisteminin devrede olduğu değerlendirilen bir senaryoda polis ekiplerinin kademeli yavaşlama manevrasıyla yedi mil sonra durdurulabildiği bildirildi.
Olay
30 Kasım 2018 tarihinde California’da gerçekleşen olayda, Alexander Samek adlı sürücünün Tesla Model S aracıyla Highway 101 otoyolunda yaklaşık 110 km/s (70 mph) hızla giderken direksiyon başında uyuduğu tespit edildi. California Otoyol Devriyesi (CHP) ekipleri, yaklaşık yedi mil boyunca takip ettikleri sürücünün siren ve ışıklı uyarılara tepki vermemesi üzerine, aracın Autopilot sisteminin devrede olduğunu değerlendirdi. Ne polis ne de Tesla, sistemin o sırada aktif olduğunu resmi olarak doğrulamadı; ancak aracın şeridini koruması ve trafiğe tepki vermesi bu ihtimali güçlendirdi.
Polis ekipleri, sürücüsü tepkisiz olan aracı durdurmak amacıyla sistemin çevresindeki trafiğe verdiği tepkileri kullanan bir manevra gerçekleştirdi. Bir devriye aracı Tesla’nın arkasındaki trafiği yavaşlatırken, diğer bir devriye aracı Tesla’nın doğrudan önüne geçerek kademeli olarak hızını düşürdü. Aracın takip mesafesini koruma özelliklerinin etkisiyle Tesla’nın da yavaşladığı ve yaklaşık yedi dakikalık bir operasyonun ardından otoyolun ortasında tam duruşa geçtiği bildirildi. Sürücü, polislerin camlara vurmasıyla uyandırılarak alkollü araç kullanma şüphesiyle gözaltına alındı.
Vaka, Tesla’nın Autopilot sisteminin sürücü denetimi mekanizmalarındaki olası eksiklikleri tartışmaya açtı. Sistemin normal şartlarda sürücüden belirli aralıklarla direksiyona tork uygulamasını beklediği; yanıt alınamadığında ise aracı durdurması gerektiği belirtildi. Ancak bu vakada sistemin neden sürüşe devam ettiği veya sürücünün sistemi yanıltacak bir yöntem kullanıp kullanmadığı bütünüyle netleşmedi.
Tesla CEO’su Elon Musk, sosyal medya üzerinden yaptığı açıklamada, sistemin normal davranışının sürücü girdisi olmadığında aracı durdurmak yönünde olduğunu belirterek olayın incelendiğini ifade etti. Tüketici hakları savunucuları ise Tesla’nın pazarlama stratejilerinin, sürücüleri sistemin gerçek kapasitesinden daha yetenekli olduğuna dair yanlış bir algıya sürükleyebileceği yönündeki çekincelerini dile getirdi.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
- [6]
- [7]
- [8]
- [9]
- [10]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?