Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Starship Technologies teslimat robotunun UCLA kampüsünde navigasyonel zorluklar sonrası merdivenlerden düştüğü gözlemlendi
UCLA kampüsünde çiçekliğe sıkışan bir Starship robotunun, uzaktan operatör kontrolüne geçtikten sonra muhtemelen görüş açısı kısıtları nedeniyle merdivenlerden düştüğü ve bir skutere çarptığı bildirildi.
Olay
3 Nisan 2022 tarihinde Los Angeles'taki Kaliforniya Üniversitesi (UCLA) kampüsünde, Starship Technologies şirketine ait bir gıda teslimat robotunun operasyon sırasında bir dizi navigasyonel sorun yaşadığı kaydedildi. Olayı gözlemleyen Sean McGregor’un aktardığına göre, otonom modda ilerleyen robot, ABD’deki trafik normlarına uyum sağlayıp yayalara yol vermek amacıyla yolun en sağından gitmeye çalışırken tekerleklerini yol kenarındaki boşluğa düşürerek bir çiçekliğe saplandı.
Robotun çiçeklikte mahsur kalması üzerine çevredeki iki kişinin müdahale ederek cihazı yola geri taşıdığı görüldü. McGregor, bu fiziksel müdahalenin sistemde bir "vandalizm uyarısı" tetiklemiş olabileceğini ve bu noktadan itibaren robotun kontrolünün uzaktan bir operatöre geçtiğini değerlendirmektedir. Starship Technologies, sistemlerinin %99 oranında tam otonom çalıştığını, ancak kalan %1’lik dilimde operatörlerin devreye girdiğini belirtmektedir. Uzaktan kontrol aşamasında robotun dönüş sinyallerinin yanmadığı ve hareketlerinin düzensizleştiği not edildi.
Uzaktan yönetilen robotun, operatörün kullandığı kameraların görüş açısının yetersizliği nedeniyle önündeki basamakları fark edemediği ve merdivenlerden aşağı düştüğü tahmin edilmektedir. Merdivenlerden düştükten sonra tekrar GPS rotasını bulan robotun, deposuna geri dönerken yol üzerindeki bir skutere çarptığı da videoya yansıdı. Olay, otonom sistemlerin insan normlarına (sağdan gitme gibi) uyum sağlama çabası ile operasyonel güvenlik arasındaki gerilimi ve uzaktan operatör müdahalesinin kısıtlarını örneklemektedir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?