RISKYZ-2022-00061MITAIID4 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

Xpeng P7’nin otonom sürüş destek sistemi devredeyken bir kamyona arkadan çarptığı bildirildi

Yayınlandı: 29 Temmuz 2026Olay: Eylül 2022

Xpeng P7 sürücüsünün, NGP sisteminin öndeki kamyonu algılayıp yavaşlayacağına güvenerek müdahale etmediği ve sistemin nesneyi tanımlayamaması sonucu arkadan çarpma kazasının gerçekleştiği iddia edildi.

Olay

Çin’de bir Xpeng P7 sahibinin, aracın NGP (Navigasyon Kılavuzlu Pilot) sistemi aktifken bir kamyonla çarpıştığı bildirildi. Sürücünün hafif yaralandığı olayda, kaza sırasında aracın otonom sürüş destek modunda olduğu öne sürüldü. Sürücünün anlatımına göre, yaklaşık 60 km/s hızla ilerleyen öndeki aracın mesafesi sistem tarafından doğru tespit edilemedi. Sürücünün, sistemin otomatik olarak yavaşlayacağına güvenerek müdahalede geciktiği; XPILOT sisteminin ise önündeki büyük kamyonu algılayamadığı iddia edildi.

Xpeng Motors yetkilileri, kaza sonrası sürüş verileri üzerinde yapılan ön incelemede; çarpışma öncesinde ön araç tanımlama, emniyet kemeri titreşim uyarısı ve Otomatik Acil Frenleme (AEB) gibi fonksiyonların normal çalışma koşullarında olduğunu açıkladı. Şirket, sürücünün sağlık durumunun düzelmesinin ardından daha kapsamlı bir analiz yapılacağını belirtti. Xpeng P7, çevresini aktif olarak algılamak ve risklere karşı sürücüyü uyarmak üzere tasarlanmış 31 adet sensör ve gelişmiş kamera sistemleriyle donatılmıştır.

Otonom sürüş uzmanları, algılama hatasının görsel kamera sisteminden kaynaklanmış olabileceğini değerlendirmektedir. Kazaya karışan aracın, üzerinde yük bulunmayan ve arka kısmı uzatılmış bir çekici (flatbed) olması nedeniyle, yapay zekâ sisteminin nesneyi yanlış tanımlamış olabileceği üzerinde durulmaktadır. Benzer görsel algılama hatalarının geçmişte Nio ve Tesla gibi markaların otonom sürüş sistemlerinde de yaşandığı, alışılmadık şekillere sahip araçların sistemler tarafından her zaman doğru algılanamadığı belirtilmektedir.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2022-00061: Xpeng P7’nin otonom sürüş destek sistemi devredeyken bir kamyona arkadan çarptığı bildirildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2022-00061

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Xpeng NGP (Navigation Guided Pilot) ve XPILOT sürüş destek sistemi
Sektör
Ulaşım
Konum
Çin

Zaman Çizelgesi

Olay Tarihi
Eylül 2022
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#ulaşım güvenliği#yapay zekâ hatası#aşırı güvenme#kullanıcı güvenliği#doğrulama eksikliği#makine öğrenmesi#otonom sürüş