Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Apple’ın otonom sürüş yazılımının testler sırasında kaldırıma çarptığı ve yayaları tehlikeye attığı iddia edildi
Apple’ın otonom sürüş sistemi prototiplerinin testler sırasında kaldırıma çarptığı, şerit ihlali yaptığı ve geçiş üstünlüğü olan bir yayayı neredeyse ezdiği iddia edildi.
Olay
Apple’ın "Project Titan" kod adlı otonom araç projesi kapsamında geliştirilen yazılımın, Kaliforniya’daki test sürüşleri sırasında ciddi navigasyon hataları sergilediği öne sürüldü. Eski çalışanların ve projeye yakın kaynakların aktardığı bilgilere göre, modifiye edilmiş Lexus SUV prototiplerinin şehir içi yollarda şeritte kalmakta zorlandığı, kavşak geçişlerinde rotadan saptığı ve kaldırıma çarptığı bildirildi.
İddialar arasında en dikkat çekici olanı, bir test aracının yolun karşısına geçmekte olan ve geçiş üstünlüğüne sahip bir yayayı (koşucu) fark edemeyerek neredeyse çarpma noktasına gelmesidir. Sistemin, yayanın geçiş hakkını tanımadığı veya algılamada yetersiz kaldığı öne sürülmektedir. Bu aksaklıkların, Apple’ın yüksek çözünürlüklü üç boyutlu haritalara ihtiyaç duymadan çalışabilen bir sistem geliştirme hedefiyle bağlantılı olabileceği belirtilmektedir.
Öte yandan, Montana’da gerçekleştirilen yaklaşık 65 kilometrelik bir test sürüşünün, üst düzey yöneticilere sunulmak üzere drone çekimleriyle hazırlanan bir tanıtım videosunda başarılı bir illüzyon yarattığı aktarıldı. Ancak mühendislerin, bu 'görünürdeki' başarının aksine, sistemin gerçek dünya koşullarındaki ve karmaşık şehir trafiğindeki performansından endişe duydukları ifade edildi. Apple konuya ilişkin resmi bir açıklama yapmazken, projenin yazılım hataları ve kilit personelin ayrılması nedeniyle operasyonel zorluklar yaşadığı bildirilmektedir.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?