Tesla Autopilot sisteminin şerit takibi hatası yaparak maddi hasarlı kazaya sebebiyet verdiği bildirildi

Microsoft’un yapay zekâ araştırma direktörü Eric Horvitz’in, 2017 yazında Washington, Redmond yakınlarında Tesla marka aracının Autopilot özelliğini kullandığı sırada bir kaza yaşadığı bildirilmiştir. Horvitz’in anlatımına göre, araç virajlı bir yolda ilerlerken şeridi ortalamada hata yapmış ve sürücü tarafındaki her iki lastik yolun ortasındaki yükseltilmiş sarı kaldırıma çarparak parçalanmıştır.

Olay sonucunda aracın arka süspansiyonunun hasar gördüğü ve aracın çekiciyle olay yerinden kaldırıldığı; Horvitz’in ise yara almadığı belirtilmiştir. Horvitz, kaza anında yapay zekâ etiği üzerine bir telefon görüşmesi yaptığını ve sistemin kendisini hayal kırıklığına uğrattığını ifade etmiştir. Tesla yetkililerinin ise olayla ilgili olarak Autopilot sisteminin tam dikkatli bir sürücü tarafından kullanılması gerektiğini vurguladığı; Horvitz'in ise Tesla ile yaptığı görüşmede, şirketin çözümden ziyade sorumluluk sınırlarına odaklandığını ve 45 mil/saat hızın altında seyrettiği için (tavsiye edilen kullanım koşullarına uymadığı gerekçesiyle) sorumluluğun kendisinde olduğunu ima ettiklerini aktarmıştır.

Horvitz, bu deneyimin yapay zekâ sistemlerini piyasaya süren şirketlerin yeni etik ve güvenlik zorluklarını dikkate alması gerektiğini kanıtladığını savunmuştur. Ayrıca, ilaç yan etkilerinin resmi kurumlara bildirilmesine benzer şekilde, otonom araç verilerinin de doğrudan iletileceği resmi bir raporlama mekanizmasının kurulması gerektiğini önermiştir. Tesla ise güvenlik verilerini topladığını ve kullanıcı geri bildirimlerini analiz ettiğini belirtmektedir.

Olay, yapay zekâ sistemlerine aşırı güvenmenin ve sistemlerin beklenmedik durumlardaki performans düşüşlerinin fiziksel güvenlik riskleri oluşturabileceğini göstermesi açısından değerlendirilmektedir. Sistemin hatasının çevresel faktörlerden mi yoksa yazılımsal bir kısıttan mı kaynaklandığına dair teknik ayrıntılar kamuya açık kaynaklarda bütünüyle yer almamaktadır.