RISKYZ-2022-00053MITAIID6 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

San Francisco’da otonom taksilerin acil durum müdahale operasyonlarını engellediği ve güvenlik riski oluşturduğu bildirildi

Yayınlandı: 29 Temmuz 2026Olay: Haziran 2022

San Francisco'da Cruise ve Waymo'ya ait otonom araçların, aktif yangın sahnelerine girerek ve acil durum araçlarını engelleyerek kamu güvenliğini tehlikeye attığına dair onlarca vaka rapor edildi.

Olay

San Francisco İtfaiye Departmanı (SFFD) ve emniyet birimleri, Cruise ve Waymo şirketlerine ait sürücüsüz taksilerin acil durum sahnelerine müdahale ederek operasyonel güvenliği tehlikeye attığını bildirdi. 2023 yılı başı itibarıyla itfaiye ekiplerinin müdahale ettiği olaylarda robotaksilerin karıştığı en az 39 engelleme vakası kaydedildiği aktarıldı. Bu vakalar arasında araçların itfaiye istasyonu girişlerini kapatması, acil durum araçlarının yolunu kesmesi ve aktif yangın sahnelerine girerek ekipmanlara zarar vermesi gibi durumlar yer almaktadır.

Kayıtlara geçen somut olaylarda, 12 Haziran 2022'de bir Cruise aracının aktif bir yangın sırasında kullanılan itfaiye hortumunun üzerinden geçtiği; 21 Ocak 2023'teki bir diğer vakada ise aracın hortumların üzerinden geçmesini engellemeye çalışan itfaiye erlerinin, aracı durdurabilmek için ön camını kırmak zorunda kaldığı rapor edildi. Ayrıca, otonom araçların olay yerindeki sarkık elektrik kablolarına takıldığı veya itfaiye araçlarının merdiven açmasını engelleyecek şekilde çok yakın durarak müdahaleyi geciktirdiği belirtildi. SFFD Şefi Jeanine Nicholson, bu tür müdahalelerin henüz bir yaralanma veya ölüme yol açmamış olmasının büyük ölçüde şans eseri olduğunu belirterek, sistemlerin karmaşık acil durum sahnelerini tanıma konusundaki yetersizliğine dikkat çekti.

Cruise ve Waymo temsilcileri ise yaptıkları açıklamalarda, sistemlerinin milyonlarca mil boyunca güvenli bir şekilde çalıştığını ve acil durum personeliyle etkileşim için özel eğitimler ile doğrudan iletişim hatları sağladıklarını savundu. Waymo sözcüsü, acil durum araçlarıyla sık sık karşılaştıklarını ve bu etkileşimlerin büyük çoğunluğunun sorunsuz gerçekleştiğini belirtti. Cruise yetkilileri ise temel misyonlarının yol güvenliğini artırmak olduğunu ifade ederek şehir yetkilileriyle iletişim kanallarını açık tuttuklarını bildirdi.

Bununla birlikte, California Motorlu Taşıtlar Departmanı (DMV) ile yapılan yasal düzenlemeler uyarınca, şirketlerin güvenlik verilerinin ve kaza raporu ayrıntılarının bir kısmının "ticari sır" kapsamında kamuoyundan gizlenebildiği belirtilmektedir. Bu durumun, otonom sistemlerin acil durumlardaki gerçek performansının bağımsız kurumlarca bütünüyle denetlenmesini zorlaştırdığı değerlendirilmektedir.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2022-00053: San Francisco’da otonom taksilerin acil durum müdahale operasyonlarını engellediği ve güvenlik riski oluşturduğu bildirildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2022-00053

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Cruise ve Waymo otonom sürüş sistemleri (robotaksiler)
Sektör
Ulaşım
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Haziran 2022
Yayınlandı
29.07.2026
Güncellendi
14.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#ulaşım güvenliği#yapay zekâ hatası#kamu güvenliği#acil durum servisleri#yeterlilik eksikliği#Waymo#otonom sürüş#kamu hizmetleri