RISKYZ-2024-00237MITAIID4 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

St. Petersburg’da yapay zekâ destekli "akıllı tramvay"ın test sürüşü sırasında yayalara çarparak yaralanmalara yol açtığı bildirildi

Yayınlandı: 29 Temmuz 2026Olay: Nisan 2024

St. Petersburg’da test sürüşü yapan yapay zekâ destekli bir tramvayın, sürücünün sistemin devre dışı kaldığı ve frenlerin tutmadığı yönündeki iddiasıyla yayalara çarptığı ve yaralanmalara neden olduğu bildirildi.

Olay

Rusya’nın St. Petersburg kentinde, sürücüsüz teknolojiye geçiş hazırlıkları kapsamında test edilen ve yapay zekâ destekli sürücü destek sistemiyle donatılmış bir tramvayın yayalara çarptığı bildirildi. Olay anına ilişkin görüntülerde, tramvayın karşıdan karşıya geçen yayaların arasına daldığı ve bir kadının aracın tekerlekleri altında kaldığı görülmektedir. Kazada birden fazla kişinin yaralandığı aktarıldı.

45 yaşındaki deneyimli tramvay sürücüsünün ifadesine göre, kaza anında yapay zekâ sisteminin aniden devre dışı kaldığı ve hem ana frenlerin hem de yedek acil durum frenlerinin işlevini yitirdiği öne sürüldü. Sürücü, araçların şerit değiştirdiğini fark edip hızı düşürmeye çalıştığını ancak frenlerin yanıt vermediğini, yayaları uyarmak için korna çaldığını fakat çarpışmayı engelleyemediğini belirtti. Aracın fren sisteminin test sürüşü öncesinde kontrol edildiği ve sürücünün sağlık testlerinden geçtiği bilgisi paylaşıldı.

AI Cognitive Technologies tarafından geliştirilen sistemin neden devre dışı kaldığına dair henüz kesin bir açıklama yapılmadı. Yerel medya kuruluşu Babr.Media, bu başarısızlığın Rusya'daki yapay zekâ sistemlerine olan güvene ağır bir darbe vurduğunu bildirirken; diğer yerel kaynaklar bu tür teknik sorunların test süreçlerinde yaşanabileceğini ve testlerin amacının bu hataları gidermek olduğunu belirtti. St. Petersburg yetkilileri olayla ilgili uzman bir komisyon görevlendirmiş ve trafik kurallarının ihlali şüphesiyle adli soruşturma başlatılmıştır.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2024-00237: St. Petersburg’da yapay zekâ destekli "akıllı tramvay"ın test sürüşü sırasında yayalara çarparak yaralanmalara yol açtığı bildirildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2024-00237

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Öncesi

Detaylar

Etkilenen Sistem
AI Cognitive Technologies tarafından geliştirilen yapay zekâ destekli sürücü destek sistemi ve UralTransMash üretimi tra
Sektör
Ulaşım
Konum
Rusya

Zaman Çizelgesi

Olay Tarihi
Nisan 2024
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#yapay zekâ hatası#ulaşım güvenliği#kamu güvenliği#yazılım hatası#fiziksel kontrol kaybı#Rusya#akıllı tramvay