Tesla Autopilot sisteminin bir akaryakıt istasyonu bayrağındaki kırmızı harfleri trafik ışığı olarak algıladığı görüldü

Bir sosyal medya kullanıcısı tarafından paylaşılan video kaydında, Tesla Model 3 aracının otonom sürüş görselleştirme sisteminin çevredeki nesneleri hatalı sınıflandırdığı gözlemlendi. Kayıtta, aracın Autopilot sisteminin ekranında trafik ışıklarının sürekli olarak kırmızıdan sarıya döndüğü, ancak gerçekte araç önünde herhangi bir trafik lambası bulunmadığı görüldü.

Videodaki görüntülere göre, sistemin bu hatasına bir akaryakıt istasyonuna ait dikey bayrakların neden olduğu değerlendiriliyor. Bayrakların üzerinde turuncu ve kırmızı renkli, kalın puntolu "coop" ifadesinin yer aldığı; rüzgârın etkisiyle dalgalanan bayraktaki yuvarlak "o" harflerinin sistem tarafından trafik ışığıyla karıştırıldığı görülüyor. Yazılımın, harflerin rengini ve dairesel formunu trafik sinyalizasyonu olarak algıladığı anlaşılıyor.

Söz konusu olayın araç durur vaziyetteyken gerçekleşmesi nedeniyle herhangi bir fiziksel tehlikeye veya kazaya yol açmadığı aktarıldı. Bununla birlikte, olayın Tesla'nın "Tam Otonom Sürüş" (FSD) Beta yazılımının görsel verileri işlerken "kenar durumlar" (edge cases) karşısında yanılabileceğini gösterdiği belirtildi. Şirketin ilgili yazılım güncellemesi için yayımladığı notlarda, sistemin "en kötü zamanda yanlış olanı yapabileceği" ve sürücülerin her zaman müdahaleye hazır olması gerektiği yönündeki uyarıları hatırlatıldı.

Olay, yapay zekâ temelli bilgisayarlı görü sistemlerinin karmaşık gerçek dünya ortamlarında nesne tanıma konusunda hâlâ zorluklar yaşayabildiğini örneklemektedir. Sistemin bu tür görsel yanılsamalar karşısında nasıl bir sürüş kararı vereceği, aracın hareket hâlinde olduğu senaryolar açısından bir risk unsuru olarak değerlendirilmektedir.