Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
San Francisco’da otonom taksilerin acil durum müdahale operasyonlarını engellediği ve güvenlik riski oluşturduğu bildirildi
San Francisco'da Cruise ve Waymo'ya ait otonom araçların, aktif yangın sahnelerine girerek ve acil durum araçlarını engelleyerek kamu güvenliğini tehlikeye attığına dair onlarca vaka rapor edildi.
Olay
San Francisco İtfaiye Departmanı (SFFD) ve emniyet birimleri, Cruise ve Waymo şirketlerine ait sürücüsüz taksilerin acil durum sahnelerine müdahale ederek operasyonel güvenliği tehlikeye attığını bildirdi. 2023 yılı başı itibarıyla itfaiye ekiplerinin müdahale ettiği olaylarda robotaksilerin karıştığı en az 39 engelleme vakası kaydedildiği aktarıldı. Bu vakalar arasında araçların itfaiye istasyonu girişlerini kapatması, acil durum araçlarının yolunu kesmesi ve aktif yangın sahnelerine girerek ekipmanlara zarar vermesi gibi durumlar yer almaktadır.
Kayıtlara geçen somut olaylarda, 12 Haziran 2022'de bir Cruise aracının aktif bir yangın sırasında kullanılan itfaiye hortumunun üzerinden geçtiği; 21 Ocak 2023'teki bir diğer vakada ise aracın hortumların üzerinden geçmesini engellemeye çalışan itfaiye erlerinin, aracı durdurabilmek için ön camını kırmak zorunda kaldığı rapor edildi. Ayrıca, otonom araçların olay yerindeki sarkık elektrik kablolarına takıldığı veya itfaiye araçlarının merdiven açmasını engelleyecek şekilde çok yakın durarak müdahaleyi geciktirdiği belirtildi. SFFD Şefi Jeanine Nicholson, bu tür müdahalelerin henüz bir yaralanma veya ölüme yol açmamış olmasının büyük ölçüde şans eseri olduğunu belirterek, sistemlerin karmaşık acil durum sahnelerini tanıma konusundaki yetersizliğine dikkat çekti.
Cruise ve Waymo temsilcileri ise yaptıkları açıklamalarda, sistemlerinin milyonlarca mil boyunca güvenli bir şekilde çalıştığını ve acil durum personeliyle etkileşim için özel eğitimler ile doğrudan iletişim hatları sağladıklarını savundu. Waymo sözcüsü, acil durum araçlarıyla sık sık karşılaştıklarını ve bu etkileşimlerin büyük çoğunluğunun sorunsuz gerçekleştiğini belirtti. Cruise yetkilileri ise temel misyonlarının yol güvenliğini artırmak olduğunu ifade ederek şehir yetkilileriyle iletişim kanallarını açık tuttuklarını bildirdi.
Bununla birlikte, California Motorlu Taşıtlar Departmanı (DMV) ile yapılan yasal düzenlemeler uyarınca, şirketlerin güvenlik verilerinin ve kaza raporu ayrıntılarının bir kısmının "ticari sır" kapsamında kamuoyundan gizlenebildiği belirtilmektedir. Bu durumun, otonom sistemlerin acil durumlardaki gerçek performansının bağımsız kurumlarca bütünüyle denetlenmesini zorlaştırdığı değerlendirilmektedir.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?