RISKYZ-2023-00035MITAIID8 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

San Francisco’da itfaiyecilerin, yangın hortumlarının üzerinden geçen bir Cruise otonom aracını durdurmak için camını kırdığı bildirildi

Yayınlandı: 29 Temmuz 2026Olay: Ocak 2023

San Francisco’da Cruise otonom araçlarının aktif yangın sahalarına girerek müdahaleyi engellediği, bir olayda itfaiye ekiplerinin aracı durdurmak için camını kırmak zorunda kaldığı ve bu durumun kamu güvenliği riskleri doğurduğu bildirildi.

Olay

San Francisco ulaşım yetkililerinin düzenleyici kurumlara sunduğu raporlara göre, 21 Ocak 2023 tarihinde Cruise şirketine ait sürücüsüz bir aracın aktif bir yangın söndürme alanına girdiği ve yerdeki itfaiye hortumlarına doğru ilerlediği bildirilmiştir. Olay yerindeki itfaiye ekiplerinin aracı durdurma çabalarının sonuç vermediği, ancak aracın ön camı kırıldıktan sonra otonom aracın durdurulabildiği aktarılmıştır.

Benzer nitelikteki olayların Haziran 2022 ve Nisan 2022 tarihlerinde de yaşandığı; otonom araçların aktif kullanılan yangın hortumlarının üzerinden geçtiği veya yangına müdahale eden itfaiye araçlarının yolunu kapattığı belirtilmiştir. San Francisco İtfaiye Departmanı, 2023 yılı içinde otonom araçların acil durum müdahalelerine engel teşkil ettiği en az 39 vaka rapor etmiştir. Bu vakalar arasında araçların polis güvenlik şeritlerinden geçmesi, kopmuş elektrik tellerine takılması ve itfaiye istasyonu çıkışlarını bloke etmesi gibi durumlar yer almaktadır.

Cruise ve Waymo temsilcileri, sistemlerinin milyonlarca mil boyunca ciddi bir yaralanmaya yol açmadan operasyon yürüttüğünü ve temel misyonlarının yol güvenliğini artırmak olduğunu savunmaktadır. Şirketler, acil durum personeliyle iletişim kurmak için doğrudan hatlar sağladıklarını ve eğitimler verdiklerini belirtmişlerdir. Ancak San Francisco İtfaiye Şefi Jeanine Nicholson, otonom araçların acil durum sahnelerine uygun tepki verme konusunda yetersiz kaldığını, bu durumun henüz bir can kaybına yol açmamış olmasının bir "şans" olduğunu ifade etmiştir.

Otonom araçların bu tür sahnelerde neden sorun yaşadığı henüz tam olarak açıklanamamakla birlikte, mevcut protokollerde aracın tamamen durdurulması için şirket uzmanlarının müdahalesi veya uzaktan komut beklenmesi gerekebilmektedir; bu durumun saniyelerin kritik olduğu acil müdahale süreçlerinde gecikmelere yol açtığı bildirilmektedir.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2023-00035: San Francisco’da itfaiyecilerin, yangın hortumlarının üzerinden geçen bir Cruise otonom aracını durdurmak için camını kırdığı bildirildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2023-00035

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Cruise otonom araç (robotaksi) sistemi
Sektör
Ulaşım
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Ocak 2023
Yayınlandı
29.07.2026
Güncellendi
14.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#yapay zekâ hatası#ulaşım güvenliği#kamu güvenliği#acil durum servisleri#yeterlilik eksikliği#navigasyon hatası#Cruise#Waymo