Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Tesla Cybertruck’ın "Full Self-Driving" modundayken şerit birleşimini gerçekleştiremeyerek bir direğe çarptığı iddia edildi
Tesla Cybertruck’ın FSD v13 yazılımı devredeyken sona eren şeridi fark edemeyerek bir direğe çarptığı, sürücünün ise sistemin güvenilirliğine dair rehavete kapıldığını kabul ettiği bir kaza rapor edildi.
Olay
6 Şubat 2025 tarihinde Nevada'nın Reno şehrinde, Jonathan Challinger yönetimindeki bir Tesla Cybertruck’ın bir aydınlatma direğine çarptığı bildirildi. Sürücünün sosyal medya paylaşımlarına göre kaza anında "Full Self-Driving" (FSD) yazılımının v13.2.4 sürümü devredeydi. Araç, sona eren bir sağ şeritten sola geçiş yapamayarak önce kaldırıma çarpmış, ardından bir direğe vurarak durabilmiştir. Kazada sürücü yaralanmazken araçta ciddi hasar oluştu. Emniyet raporunda sürücünün kaza nedeni olarak "bilinmeyen mekanik sorunları" işaret ettiği ancak polise FSD'nin devrede olduğuna dair bir beyanda bulunmadığı belirtildi.
Sürücü Challinger, sistemin şerit birleşimi sırasında yavaşlama veya manevra yapma girişiminde bulunmadığını öne sürdü. Bununla birlikte sürücü, sistemin performansına duyduğu güven nedeniyle dikkatinin dağıldığını ve müdahalede geç kaldığını belirterek, diğer kullanıcıları yapay zekâ sistemlerine karşı "rehavete kapılmama" konusunda uyardı. Olayın ardından sürücünün, Tesla’nın ilgili verileri incelemesi için şirketle iletişime geçmeye çalıştığı ancak servis merkezinden henüz bir yanıt alamadığı aktarıldı.
Otonom araç teknolojisi uzmanları, bu kazanın Tesla’nın sadece kameralara dayalı yaklaşımının ve yapay zekâ sistemlerinin ani yol düzeni değişikliklerine uyum sağlama kapasitesinin bir göstergesi olduğunu belirtmektedir. Surrey Üniversitesi'nden Profesör Saber Fallah, şerit sonlanmaları ve ani düzen değişikliklerinin, insan sürücülerin bilişsel esnekliğine sahip olmayan yapay zekâ sistemleri için sorun teşkil etmeye devam ettiğini vurgulamıştır.
Tesla CEO'su Elon Musk, v13 sürümünün güvenlik profilinde büyük iyileştirmeler yapıldığını savunsa da, Ulusal Karayolu Trafik Güvenliği İdaresi'nin (NHTSA) FSD sistemine yönelik incelemeleri sürmektedir. Tesla, söz konusu kaza hakkında resmi bir açıklama yapmamıştır.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
- [6]
- [7]
- [8]
- [9]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?