Tesla Autopilot sisteminin bir at arabasını farklı nesne türleriyle karıştırdığına dair görüntüler paylaşıldı

İsviçre’de "RealRusty" kullanıcı adlı bir sürücü tarafından paylaşılan görüntülerde, Tesla Model Y aracının Autopilot sisteminin önünde seyreden bir at arabasını tanımlamakta güçlük çektiği ve hatalı görselleştirmeler sunduğu görüldü. Zürih yakınlarında kaydedilen videoda, aracın dijital ekranındaki yazılımın at arabasını motosiklet, binek araç, kamyon ve bir yaya gibi farklı nesne kategorileri arasında sürekli değiştirdiği izlendi.

Görüntülerde, sistemin at arabasını bir kamyon olarak tanımladığı sırada, ekrandaki kamyon simgesinin kendi ekseni etrafında döndüğü ve Tesla ile kafa kafaya çarpışacakmış gibi bir rota çizdiği görüldü. Sürücü, sistemin görselleştirme üzerinden nesneyi tespit etmeye çalışmasını izlediklerini ancak yazılımın tutarlı bir sınıflandırma yapamadığını belirtti. Olay sırasında herhangi bir fiziksel tehlike veya kaza rapor edilmedi; sosyal medya kullanıcıları ise yapay zekanın bu hatasını eğlenceli bularak paylaştı.

Konuyla ilgili olarak Tesla’nın Insider’ın yorum talebine yanıt vermediği bildirildi. Autopilot sisteminin tasarımcılarının, at arabası gibi nadir rastlanan taşıtları sistemin algılama kütüphanesine dahil edip etmediği belirsizliğini korumaktadır. Öte yandan, California Motorlu Taşıtlar Departmanı'nın (DMV), olaydan kısa bir süre önce Tesla'yı "Tam Otonom Sürüş" (FSD) teknolojisinin yetenekleri hakkında yanıltıcı iddialarda bulunmakla suçladığı hatırlatıldı.