Tesla Autopilot sisteminin nesne algılama hataları ve yetersiz sürücü denetimi nedeniyle ölümlü kazalara sebebiyet verdiği iddia edildi

Ağustos 2019’da Kaliforniya’da meydana gelen bir trafik kazasında, Autopilot modunda ilerleyen bir Tesla Model 3’ün, önündeki araca yaklaşık 96 km/sa (60 mil/sa) hızla çarptığı bildirilmiştir. Tesla’dan elde edilen video kayıtları ve verilerin, sistemin veya sürücünün çarpışmadan hemen öncesine kadar herhangi bir frenleme yapmadığını gösterdiği öne sürülmüştür. Kazada, çarpılan araçta bulunan ve emniyet kemeri takmadığı belirtilen 15 yaşındaki Jovani Maldonado’nun araçtan fırlayarak hayatını kaybettiği aktarılmıştır. Olay, sistemin teknik kusurları olduğu iddiasıyla Tesla’ya karşı açılan bir davanın konusu olmuştur.

Söz konusu kaza, Tesla’nın Autopilot sistemiyle ilişkilendirilen çok sayıda olaydan biri olarak değerlendirilmektedir. Federal trafik güvenliği verilerine göre, 2016 yılından bu yana Autopilot sisteminin devrede olduğu sekiz farklı kazada en az 10 kişinin hayatını kaybettiği bir liste yayımlanmış; Maldonado vakasının bu listeye henüz dahil edilmediği not düşülmüştür. Bu kazaların bir kısmında sistemin, yoldan geçen tırları veya beton bariyerleri algılamada başarısız olduğu iddia edilmektedir. Uzmanlar, Tesla’nın sürücü denetleme mekanizmasının yalnızca direksiyon üzerindeki el baskısını ölçtüğünü, bunun da sürücülerin dikkat dağınıklığını önlemede yetersiz kaldığını ve kolayca yanıltılabildiğini belirtmektedir.

Tesla ve CEO Elon Musk, sistemin sürüşü daha güvenli hale getirdiğini ve Autopilot kullanımındaki kaza oranlarının genel ortalamadan düşük olduğunu savunmaktadır. Şirket avukatları, Maldonado davasına ilişkin yazışmalarda sorumluluğun sistemde değil, dikkatsiz davranan ve güvenli olmayan hızda seyreden sürücüde olduğunu ileri sürmüştür. Tesla, Autopilot’un tam otonom bir sistem olmadığını, sürücülerin her an müdahaleye hazır olması gerektiğini vurgulamaktadır.

Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA), Autopilot sisteminin karıştığı kazalarla ilgili çok sayıda aktif soruşturma yürütmektedir. Sistemin nesneleri algılama kapasitesi ve sürücü istismarını önlemeye yönelik güvenlik bariyerlerinin eksikliği, hem hukuki süreçlerin hem de düzenleyici kurumların incelemelerinin odağında yer almaktadır. Olaylardaki kesin kusur payı, devam eden yargılamalar ve teknik incelemeler sonucunda netleşecektir.