Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Gerçek zamanlı navigasyon sistemlerinin kış şartlarında sürücüleri güvenli olmayan güzergâhlara yönlendirerek risk oluşturduğu bildirildi
Navigasyon uygulamalarının trafikten kaçınmak için önerdiği alternatif rotaların, kış şartlarında sürücüleri geçit vermeyen karlı ve ıssız yollara yönlendirerek mahsur kalmalarına neden olduğu bildirildi.
Olay
Apple Maps, Google Maps ve Waze gibi gerçek zamanlı navigasyon uygulamalarının, yoğun kar yağışı ve kış şartlarının hüküm sürdüğü bölgelerde trafiği baypas etmek amacıyla sürücüleri ana yollardan çıkarıp güvenli olmayan, temizlenmemiş veya asfaltlanmamış ara yollara yönlendirdiği bildirilmektedir. California Karayolu Devriyesi (CHP) ve California Ulaştırma Bakanlığı (Caltrans) yetkilileri, bu sistemlerin verimlilik odaklı algoritmalarının yolun geçit verip vermediğini her zaman doğru analiz edemediğini ve bu durumun sürücülerin mahsur kalmasına yol açtığını belirtmektedir.
Bildirilen vakalardan birinde, Big Bear bölgesinden Los Angeles'taki evlerine dönmekte olan bir çiftin, Apple Maps’in yönlendirmesiyle ana yoldaki trafikten kaçınmak isterken kendilerini yoğun karla kaplı, asfaltlanmamış ve yerleşimin olmadığı bir dağ yolunda buldukları aktarılmıştır. Benzer şekilde, 2018 yılında Vermont’ta Waze kullanan bazı turistlerin, uygulamanın yönlendirmesiyle bir tekne indirme rampasına girerek göle daldıkları bilgisi kayıtlara geçmiştir. Yetkililer, navigasyon uygulamalarının sunduğu "alternatif rotaların" kış şartlarında güncel olmayan veya hatalı bilgiler içerebildiğini, bu durumun hem sürücü güvenliğini tehlikeye attığını hem de kurtarma ekiplerinin iş yükünü artırdığını ifade etmektedir.
Waze yetkilileri, sistemlerinin topluluk odaklı (crowdsourced) yapısı sayesinde dinamik hava koşullarına hızlı uyum sağlayabildiğini savunmakla birlikte, bir olumsuzluğun kullanıcılar tarafından raporlanmaması durumunda sistemin bunu bilemeyeceğini kabul etmiştir. Google konuyla ilgili yorum yapmazken, Apple bu tür durumların neden yaşandığına dair açıklama yapmaktan kaçınmıştır.
Sorunun temelinde, kamu kurumlarının yalnızca "güvenli olduğu teyit edilen" yolları önermesine karşın, navigasyon sistemlerinin "kötü olduğu raporlanmamış" her yolu potansiyel bir rota olarak değerlendirmesi yatmaktadır. Bu durum, sistemlerin ekstrem hava koşullarında aşırı güvenilirlik sorunu yarattığı ve kullanıcıları fiziksel tehlikeye açık hâle getirebildiği şeklinde değerlendirilmektedir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?