RISKYZ-2022-00059MITAIID4 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

Starship Technologies teslimat robotunun UCLA kampüsünde navigasyonel zorluklar sonrası merdivenlerden düştüğü gözlemlendi

Yayınlandı: 29 Temmuz 2026Olay: Nisan 2022

UCLA kampüsünde çiçekliğe sıkışan bir Starship robotunun, uzaktan operatör kontrolüne geçtikten sonra muhtemelen görüş açısı kısıtları nedeniyle merdivenlerden düştüğü ve bir skutere çarptığı bildirildi.

Olay

3 Nisan 2022 tarihinde Los Angeles'taki Kaliforniya Üniversitesi (UCLA) kampüsünde, Starship Technologies şirketine ait bir gıda teslimat robotunun operasyon sırasında bir dizi navigasyonel sorun yaşadığı kaydedildi. Olayı gözlemleyen Sean McGregor’un aktardığına göre, otonom modda ilerleyen robot, ABD’deki trafik normlarına uyum sağlayıp yayalara yol vermek amacıyla yolun en sağından gitmeye çalışırken tekerleklerini yol kenarındaki boşluğa düşürerek bir çiçekliğe saplandı.

Robotun çiçeklikte mahsur kalması üzerine çevredeki iki kişinin müdahale ederek cihazı yola geri taşıdığı görüldü. McGregor, bu fiziksel müdahalenin sistemde bir "vandalizm uyarısı" tetiklemiş olabileceğini ve bu noktadan itibaren robotun kontrolünün uzaktan bir operatöre geçtiğini değerlendirmektedir. Starship Technologies, sistemlerinin %99 oranında tam otonom çalıştığını, ancak kalan %1’lik dilimde operatörlerin devreye girdiğini belirtmektedir. Uzaktan kontrol aşamasında robotun dönüş sinyallerinin yanmadığı ve hareketlerinin düzensizleştiği not edildi.

Uzaktan yönetilen robotun, operatörün kullandığı kameraların görüş açısının yetersizliği nedeniyle önündeki basamakları fark edemediği ve merdivenlerden aşağı düştüğü tahmin edilmektedir. Merdivenlerden düştükten sonra tekrar GPS rotasını bulan robotun, deposuna geri dönerken yol üzerindeki bir skutere çarptığı da videoya yansıdı. Olay, otonom sistemlerin insan normlarına (sağdan gitme gibi) uyum sağlama çabası ile operasyonel güvenlik arasındaki gerilimi ve uzaktan operatör müdahalesinin kısıtlarını örneklemektedir.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2022-00059: Starship Technologies teslimat robotunun UCLA kampüsünde navigasyonel zorluklar sonrası merdivenlerden düştüğü gözlemlendi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2022-00059

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Starship Technologies otonom teslimat robotu
Sektör
Ulaşım
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Nisan 2022
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#yapay zekâ hatası#navigasyon hatası#ulaşım güvenliği#fiziksel kontrol kaybı#insan-yapay zekâ etkileşimi#otonom teslimat