Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Almanya’da bir sürücünün Tesla otopilot sistemini yanıltarak direksiyon başında uyuduğu ve aracın polis takibine rağmen yoluna devam ettiği bildirildi
Almanya’da bir sürücünün, Tesla’nın güvenlik sistemlerini yanıltan bir ağırlık kullanarak otopilot modunda uyuduğu ve polisin müdahalesine rağmen aracın 15 dakika boyunca polis aracını takip ederek yoluna devam ettiği bildirildi.
Olay
Bavyera eyalet polisi tarafından yapılan açıklamaya göre, 29 Aralık’ta Bamberg yakınlarındaki A70 otoyolunda seyreden bir Tesla sürücüsünün, aracını otopilot moduna alarak direksiyon başında uyuduğu iddia edildi. Trafik ekiplerinin rutin kontrol için durdurmak istediği aracın, polisin tüm ikazlarına ve korna seslerine rağmen 15 dakika boyunca durmadığı ve yaklaşık 110 km/s sabit hızla yoluna devam ettiği bildirildi.
Polis ekipleri araçla yan yana geldiklerinde, 45 yaşındaki sürücünün koltuğunun yatık olduğu, gözlerinin kapalı olduğu ve ellerinin direksiyonda olmadığı tespit edildi. Aracın, önündeki devriye aracıyla arasındaki mesafeyi sürekli koruyarak ilerlediği gözlemlendi. Yaklaşık 15 dakikalık takibin ardından sürücünün uyandığı ve polisin talimatlarına uyarak aracı kenara çektiği aktarıldı.
Yapılan incelemede, aracın ayak boşluğunda "direksiyon ağırlığı" olarak bilinen ve direksiyona takıldığında sistemin sürücünün ellerinin direksiyonda olduğunu varsaymasını sağlayan bir cihaz bulunduğu belirlendi. Bu cihazın, Tesla’nın güvenlik sistemlerini yanıltmak amacıyla kullanıldığı değerlendirilmektedir. Ayrıca sürücünün kontrol sırasında uyuşturucu kullanımına işaret eden belirtiler gösterdiği ifade edildi.
Olayın ardından sürücü hakkında trafik güvenliğini tehlikeye atmak suçundan soruşturma başlatıldığı ve mahkeme sürecine kadar ehliyetine el konulduğu bildirildi. Bu vaka, yapay zekâ destekli sürüş sistemlerinin kötüye kullanımı ve bu sistemlerin sunduğu güvenlik önlemlerinin harici cihazlarla devre dışı bırakılabilmesi riskini yeniden gündeme getirmiştir.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
- [6]
- [7]
- [8]
- [9]
- [10]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?