Tesla Autopilot sisteminin trafik ışığı taşıyan bir kamyonu hatalı algılayarak görselleştirme hatası yaptığı bildirildi

Bir Tesla Model 3 kullanıcısı, otoyolda yaklaşık 130 km/sa (80 MPH) hızla seyrederken Autopilot destekli sürüş sisteminin dijital göstergesinde sıra dışı bir hata ile karşılaştığını bildirdi. Sosyal medyada paylaşılan görüntülerde, aracın önündeki yolda bitmek bilmeyen bir trafik ışığı dizisi algıladığı ve bu ışıkların sanki öndeki kamyondan yola yayılıyormuş gibi ekrana yansıdığı görüldü.

Olayın ardından paylaşılan takip videolarında, Tesla’nın hemen önünde seyreden kamyonun devre dışı bırakılmış trafik ışıklarını taşıdığı anlaşıldı. Birmingham Üniversitesi ve MIT’de görev yapan matematikçi Max Little, bu senaryonun muhtemelen sistemin eğitim verilerinde yer almayan bir "uç vaka" (edge case) olduğunu; sadece daha fazla veri kaydederek tam sürüş otonomisine ulaşmanın mümkün olmayabileceğini ifade etti.

Sistemin trafik ışıklarını tanımasına rağmen, bunların otoyolun ortasında bir yük üzerinde bulunmasını ayırt edememesi, otonom sürüş sistemlerini gerçek dünyadaki uç vakalara hazırlamanın zorluğunu gösteren bir örnek olarak yorumlandı. Bununla birlikte, aracın bu algılama hatası nedeniyle ani fren yapmadığı, bu sayede olası bir kazanın yaşanmadığı aktarıldı. Benzer bir hatanın daha önce bir reklam panosundaki "dur" işaretinin gerçek sanılmasıyla da yaşandığı hatırlatılarak, bu tür vakaların sistemin bağlamsal muhakeme yeteneğindeki zorlukları temsil ettiği belirtildi.