Cruise sürücüsüz taksilerinin acil durum müdahalesini engellediği ve bir hastanın ölümüne katkıda bulunduğu iddiaları

14 Ağustos 2023 tarihinde San Francisco’da, Cruise şirketine ait iki sürücüsüz taksinin, ağır yaralı bir hastayı taşıyan ambulansın yolunu kapattığı ve hastanın hastanede hayatını kaybetmesiyle sonuçlanan süreçte gecikmeye neden olduğu iddia edildi. San Francisco İtfaiye Departmanı (SFFD) tarafından hazırlanan raporda, otonom araçların dört şeritli yolun sağ iki şeridinde durarak ambulansın çıkışını zorlaştırdığı ve tıbbi müdahaleyi geciktirdiği öne sürüldü.

Cruise yetkilileri ise iddiaları reddederek, ambulansın hasta yüklendikten yaklaşık 90 saniye sonra olay yerinden ayrıldığını ve araçlarının geçişi engellemediğini savundu. Şirket tarafından paylaşılan video kayıtlarında, diğer araçların ve bir başka ambulansın Cruise araçlarının yanından geçebildiği görüldü. SFFD Şefi Jeanine Nicholson, bu tür vakalarda saniyelerin kritik olduğunu belirterek, otonom araçların acil durum ekiplerinin işleyişine müdahale etmesinden duyduğu endişeyi dile getirdi.

Olaydan haftalar sonra SFFD ve Belediye Ulaşım Ajansı tarafından yapılan ortak açıklamada, İtfaiye Şefi’nin söz konusu ölümü doğrudan Cruise araçlarına bağlamadığı netleştirildi. Ayrıca, 69 yaşındaki kurbanın bir binek araç değil, bir belediye otobüsünün çarpması sonucu ağır yaralandığı ortaya çıktı. Yetkililer, ilk raporların bir personelin iç yazışmasına dayandığını ve medyadaki yansımaların durumu olduğundan farklı gösterdiğini belirtti.

Bu vaka, San Francisco’da otonom araçların acil durum araçlarını engellediği bildirilen 70’ten fazla olaydan biri olarak kayıtlara geçmiştir. Olayın ardından California Motorlu Araçlar Departmanı, Cruise’dan şehirdeki araç sayısını yarıya indirmesini talep etmiştir. Ölüm ile sistem duraklaması arasında doğrudan bir nedensellik bağı resmi makamlarca kurulmamış olsa da, yapay zekâ sistemlerinin acil durumlardaki davranışları ve kamu güvenliği üzerindeki etkileri tartışma konusu olmaya devam etmektedir.