RISKYZ-2021-00019MITAIID4 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

Apple’ın otonom sürüş yazılımının testler sırasında kaldırıma çarptığı ve yayaları tehlikeye attığı iddia edildi

Yayınlandı: 29 Temmuz 2026Olay: Eylül 2021

Apple’ın otonom sürüş sistemi prototiplerinin testler sırasında kaldırıma çarptığı, şerit ihlali yaptığı ve geçiş üstünlüğü olan bir yayayı neredeyse ezdiği iddia edildi.

Olay

Apple’ın "Project Titan" kod adlı otonom araç projesi kapsamında geliştirilen yazılımın, Kaliforniya’daki test sürüşleri sırasında ciddi navigasyon hataları sergilediği öne sürüldü. Eski çalışanların ve projeye yakın kaynakların aktardığı bilgilere göre, modifiye edilmiş Lexus SUV prototiplerinin şehir içi yollarda şeritte kalmakta zorlandığı, kavşak geçişlerinde rotadan saptığı ve kaldırıma çarptığı bildirildi.

İddialar arasında en dikkat çekici olanı, bir test aracının yolun karşısına geçmekte olan ve geçiş üstünlüğüne sahip bir yayayı (koşucu) fark edemeyerek neredeyse çarpma noktasına gelmesidir. Sistemin, yayanın geçiş hakkını tanımadığı veya algılamada yetersiz kaldığı öne sürülmektedir. Bu aksaklıkların, Apple’ın yüksek çözünürlüklü üç boyutlu haritalara ihtiyaç duymadan çalışabilen bir sistem geliştirme hedefiyle bağlantılı olabileceği belirtilmektedir.

Öte yandan, Montana’da gerçekleştirilen yaklaşık 65 kilometrelik bir test sürüşünün, üst düzey yöneticilere sunulmak üzere drone çekimleriyle hazırlanan bir tanıtım videosunda başarılı bir illüzyon yarattığı aktarıldı. Ancak mühendislerin, bu 'görünürdeki' başarının aksine, sistemin gerçek dünya koşullarındaki ve karmaşık şehir trafiğindeki performansından endişe duydukları ifade edildi. Apple konuya ilişkin resmi bir açıklama yapmazken, projenin yazılım hataları ve kilit personelin ayrılması nedeniyle operasyonel zorluklar yaşadığı bildirilmektedir.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2021-00019: Apple’ın otonom sürüş yazılımının testler sırasında kaldırıma çarptığı ve yayaları tehlikeye attığı iddia edildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2021-00019

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Apple Project Titan otonom sürüş sistemi (Lexus SUV prototipleri üzerinde test edilen yazılım)
Sektör
Ulaşım
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Eylül 2021
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#yapay zekâ hatası#ulaşım güvenliği#navigasyon hatası#yeterlilik eksikliği#kamu güvenliği#yazılım hatası#yapay zekâ#doğrulama eksikliği