RISKYZ-2022-00082MITAIID4 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

San Francisco’da farları kapalı olduğu iddia edilen sürücüsüz Cruise aracının trafik denetimi sırasında polisten uzaklaştığı bildirildi

Yayınlandı: 29 Temmuz 2026Olay: Nisan 2022

San Francisco’da farları yanmadığı gerekçesiyle durdurulan sürücüsüz bir Cruise aracının, polisin müdahalesi sırasında daha güvenli bir noktaya geçmek amacıyla hareket etmesinin kısa süreli bir kaçış algısı yarattığı ancak şirketin bunun bir sistem prosedürü olduğunu açıkladığı bildirildi.

Olay

Nisan 2022’de San Francisco’nun Richmond bölgesinde meydana gelen olayda, General Motors bünyesindeki Cruise şirketine ait sürücüsüz bir taksi, gece saatlerinde farları kapalı şekilde seyrettiği şüphesiyle San Francisco Polis Departmanı (SFPD) tarafından durdurulmuştur. Sosyal medyada paylaşılan görüntülerde, bir polis memurunun araca yaklaştığı, sürücü koltuğunun boş olduğunu fark ederek kapıyı açmaya çalıştığı ancak kapının kilitli olduğu görülmüştür.

Memur aracın yanından ayrılıp ekip otosuna yöneldiği sırada, otonom aracın aniden hareket ederek kavşağı geçtiği ve polisten kaçtığı izlenimi oluştuğu aktarılmıştır. Ancak aracın kısa bir mesafe ilerledikten sonra dörtlü ikaz lambalarını yakarak yol kenarında daha güvenli olduğu değerlendirilen bir noktada yeniden durduğu bildirilmiştir. Olay yerine gelen polis ekiplerinin aracı çevrelediği ve sistemle nasıl etkileşime geçecekleri konusunda tereddüt yaşadıkları gözlemlenmiştir.

Cruise tarafından yapılan açıklamada, aracın polisten kaçmaya çalışmadığı, trafik durdurma prosedürlerine uygun olarak en yakın güvenli noktaya çekilmek üzere hareket ettiği savunulmuştur. Şirket, otonom araçların acil durum araçlarını ve sirenleri algılayabildiğini, bu tür durumlar için emniyet birimleriyle yakın çalışıldığını ve memurların araması için özel bir telefon hattı bulunduğunu belirtmiştir. Olay sonucunda herhangi bir trafik cezası kesilmediği ve Cruise personelinin emniyet güçleriyle iletişime geçerek durumu yönettiği ifade edilmiştir.

Aracın gece sürüşü sırasında farlarının neden yanmadığına dair kesin bir teknik açıklama paylaşılmamış; ancak Cruise sözcüsü Aaron Mclear sorunun giderildiğini bildirmiştir. Olay, otonom araçların trafik kurallarına uyumu ve kolluk kuvvetleriyle olan etkileşim süreçlerindeki belirsizlikler açısından tartışmalara yol açmıştır.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2022-00082: San Francisco’da farları kapalı olduğu iddia edilen sürücüsüz Cruise aracının trafik denetimi sırasında polisten uzaklaştığı bildirildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2022-00082

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Cruise otonom sürüş sistemi (modifiye edilmiş Chevy Bolt)
Sektör
Ulaşım
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Nisan 2022
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#yapay zekâ hatası#ulaşım güvenliği#kamu güvenliği#yazılım hatası#insan-yapay zekâ etkileşimi#navigasyon hatası#tüketici güvenliği