RISKYZ-2023-00083MITAIID4 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

Cruise otonom araçlarının yayalara yönelik güvenlik riskleri oluşturduğu iddiasıyla federal inceleme başlatıldı

Yayınlandı: 29 Temmuz 2026Olay: Ekim 2023

Cruise otonom araçlarının yayaların bulunduğu alanlarda riskli hareketler sergilediği ve bir vakada yaralı bir yayanın üzerinde durarak ciddi yaralanmaya sebebiyet verdiği iddiasıyla federal düzeyde güvenlik incelemesi başlatıldı.

Olay

ABD Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA), General Motors’un sürücüsüz araç birimi Cruise tarafından işletilen yaklaşık 600 otonom araç hakkında güvenlik kusuru incelemesi başlattı. İncelemenin, araçların yaya geçitlerinde ve yollarda yayaların bulunduğu senaryolarda "uygun dikkati göstermediği" yönündeki raporlar üzerine açıldığı bildirildi. NHTSA, ikisi yaralanmayla sonuçlanan toplam dört ayrı olaydan haberdar olduğunu; soruşturmanın amacının potansiyel sorunun kapsamını ve ciddiyetini belirlemek olduğunu açıkladı.

İncelenen vakalar arasında, San Francisco’da bir yayanın ağır yaralandığı olay öne çıkmaktadır. Kamera kayıtlarına ve itfaiye raporlarına göre, bir yayanın önce insan yönetimindeki bir aracın çarpmasıyla Cruise aracının yoluna savrulduğu, otonom aracın ise yayanın üzerinde durduğu belirtildi. Kurtarma ekiplerinin aracı kaldırarak yaralıyı kurtarabildiği aktarıldı. Cruise sözcüsü, NHTSA ile düzenli iletişim hâlinde olduklarını, bilgi taleplerine yanıt verdiklerini ve ilgili video kayıtlarını paylaştıklarını ifade etti.

Bu inceleme, Cruise araçları hakkında bir yıldan kısa süre içinde başlatılan ikinci federal soruşturmadır. Aralık 2022’de araçların ani fren yapması veya yolda kalması nedeniyle başlatılan önceki incelemenin henüz sonuçlanmadığı kaydedildi. Ayrıca Kaliforniya Motorlu Taşıtlar Departmanı (DMV), araçların kamu güvenliği için makul olmayan bir risk oluşturduğuna karar verilmesi durumunda şirketin faaliyet izinlerini askıya alma veya iptal etme hakkını saklı tuttuğunu belirterek ayrı bir soruşturma yürütmektedir. Cruise, bu süreçte San Francisco’daki araç filosunu gündüz 50, gece 150 aracı geçmeyecek şekilde yarı yarıya indirmeyi kabul etmiştir.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2023-00083: Cruise otonom araçlarının yayalara yönelik güvenlik riskleri oluşturduğu iddiasıyla federal inceleme başlatıldı. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2023-00083

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Cruise otonom sürüş sistemi (Chevrolet Bolt tabanlı sürücüsüz araçlar)
Sektör
Ulaşım
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Ekim 2023
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#yapay zekâ hatası#ulaşım güvenliği#kamu güvenliği#kullanıcı güvenliği#otonom teslimat#güvenlik açığı#tüketici güvenliği#yapay zekâ