Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
St. Petersburg’da yapay zekâ destekli "akıllı tramvay"ın test sürüşü sırasında yayalara çarparak yaralanmalara yol açtığı bildirildi
St. Petersburg’da test sürüşü yapan yapay zekâ destekli bir tramvayın, sürücünün sistemin devre dışı kaldığı ve frenlerin tutmadığı yönündeki iddiasıyla yayalara çarptığı ve yaralanmalara neden olduğu bildirildi.
Olay
Rusya’nın St. Petersburg kentinde, sürücüsüz teknolojiye geçiş hazırlıkları kapsamında test edilen ve yapay zekâ destekli sürücü destek sistemiyle donatılmış bir tramvayın yayalara çarptığı bildirildi. Olay anına ilişkin görüntülerde, tramvayın karşıdan karşıya geçen yayaların arasına daldığı ve bir kadının aracın tekerlekleri altında kaldığı görülmektedir. Kazada birden fazla kişinin yaralandığı aktarıldı.
45 yaşındaki deneyimli tramvay sürücüsünün ifadesine göre, kaza anında yapay zekâ sisteminin aniden devre dışı kaldığı ve hem ana frenlerin hem de yedek acil durum frenlerinin işlevini yitirdiği öne sürüldü. Sürücü, araçların şerit değiştirdiğini fark edip hızı düşürmeye çalıştığını ancak frenlerin yanıt vermediğini, yayaları uyarmak için korna çaldığını fakat çarpışmayı engelleyemediğini belirtti. Aracın fren sisteminin test sürüşü öncesinde kontrol edildiği ve sürücünün sağlık testlerinden geçtiği bilgisi paylaşıldı.
AI Cognitive Technologies tarafından geliştirilen sistemin neden devre dışı kaldığına dair henüz kesin bir açıklama yapılmadı. Yerel medya kuruluşu Babr.Media, bu başarısızlığın Rusya'daki yapay zekâ sistemlerine olan güvene ağır bir darbe vurduğunu bildirirken; diğer yerel kaynaklar bu tür teknik sorunların test süreçlerinde yaşanabileceğini ve testlerin amacının bu hataları gidermek olduğunu belirtti. St. Petersburg yetkilileri olayla ilgili uzman bir komisyon görevlendirmiş ve trafik kurallarının ihlali şüphesiyle adli soruşturma başlatılmıştır.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?