Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Xpeng P7’nin otonom sürüş destek sistemi devredeyken bir kamyona arkadan çarptığı bildirildi
Xpeng P7 sürücüsünün, NGP sisteminin öndeki kamyonu algılayıp yavaşlayacağına güvenerek müdahale etmediği ve sistemin nesneyi tanımlayamaması sonucu arkadan çarpma kazasının gerçekleştiği iddia edildi.
Olay
Çin’de bir Xpeng P7 sahibinin, aracın NGP (Navigasyon Kılavuzlu Pilot) sistemi aktifken bir kamyonla çarpıştığı bildirildi. Sürücünün hafif yaralandığı olayda, kaza sırasında aracın otonom sürüş destek modunda olduğu öne sürüldü. Sürücünün anlatımına göre, yaklaşık 60 km/s hızla ilerleyen öndeki aracın mesafesi sistem tarafından doğru tespit edilemedi. Sürücünün, sistemin otomatik olarak yavaşlayacağına güvenerek müdahalede geciktiği; XPILOT sisteminin ise önündeki büyük kamyonu algılayamadığı iddia edildi.
Xpeng Motors yetkilileri, kaza sonrası sürüş verileri üzerinde yapılan ön incelemede; çarpışma öncesinde ön araç tanımlama, emniyet kemeri titreşim uyarısı ve Otomatik Acil Frenleme (AEB) gibi fonksiyonların normal çalışma koşullarında olduğunu açıkladı. Şirket, sürücünün sağlık durumunun düzelmesinin ardından daha kapsamlı bir analiz yapılacağını belirtti. Xpeng P7, çevresini aktif olarak algılamak ve risklere karşı sürücüyü uyarmak üzere tasarlanmış 31 adet sensör ve gelişmiş kamera sistemleriyle donatılmıştır.
Otonom sürüş uzmanları, algılama hatasının görsel kamera sisteminden kaynaklanmış olabileceğini değerlendirmektedir. Kazaya karışan aracın, üzerinde yük bulunmayan ve arka kısmı uzatılmış bir çekici (flatbed) olması nedeniyle, yapay zekâ sisteminin nesneyi yanlış tanımlamış olabileceği üzerinde durulmaktadır. Benzer görsel algılama hatalarının geçmişte Nio ve Tesla gibi markaların otonom sürüş sistemlerinde de yaşandığı, alışılmadık şekillere sahip araçların sistemler tarafından her zaman doğru algılanamadığı belirtilmektedir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?