RISKYZ-2016-00005MITAIID5 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

Silikon Vadisi'nde bir alışveriş merkezi güvenlik robotunun 16 aylık bir çocuğa çarparak yaralanmasına yol açtığı iddia edildi

Yayınlandı: 29 Temmuz 2026Olay: Temmuz 2016

Stanford Alışveriş Merkezi'nde devriye gezen 135 kilogramlık güvenlik robotunun 16 aylık bir çocuğa çarparak ayağının üzerinden geçtiği iddia edilmiş; üretici firma ise çocuğun robota çarptığını savunarak olayı "olağan dışı bir kaza" olarak tanımlamıştır.

Olay

Palo Alto'daki Stanford Alışveriş Merkezi'nde devriye gezen Knightscope K5 model otonom güvenlik robotunun, 16 aylık Harwin Cheng isimli çocuğa çarptığı iddia edildi. Çocuğun annesi Tiffany Teng'in anlatımına göre, yaklaşık 135 kilogram ağırlığındaki robot çocuğun kafasına çarparak yere düşmesine neden olmuş ve durmayarak sağ ayağının üzerinden geçmiştir. Bazı haber kaynakları ise çocuğun robotu fark etmeyerek robota çarptığını ve bu şekilde düştüğünü aktarmıştır. Olay sonucunda çocuğun ayağında şişlik ve dizinde sıyrıklar oluştuğu, ancak çekilen röntgenler sonucunda herhangi bir kemik kırılması tespit edilmediği belirtildi.

Knightscope firması yaptığı açıklamada olayı "olağan dışı bir kaza" olarak nitelendirmiş ve sistem verilerine dayanan farklı bir tablo çizmiştir. Şirket, robotun sensörlerinin çocuğu fark ederek sola manevra yaptığını ancak çocuğun geri geri giderek robota çarptığını iddia etmiştir. Ayrıca robotun sensörlerinin herhangi bir darbe veya engel uyarısı kaydetmediği, bu nedenle makinenin devriyesine devam ettiği savunulmuştur. Şirket yetkilileri, ailenin iddialarını ciddiye aldıklarını ve özür dilemek üzere aileyle iletişime geçmeye çalıştıklarını ifade etmiştir.

Olayın ardından alışveriş merkezi yönetimi, incelemeler tamamlanana kadar otonom robotların kullanımını askıya aldığını duyurmuştur. Knightscope, K5 modelinin o güne kadar yaklaşık 40 bin kilometre yol katettiğini ve daha önce benzer bir yaralanma vakasının yaşanmadığını belirtmiştir. Bununla birlikte, anne Tiffany Teng bir güvenlik görevlisinin kendisine aynı hafta içinde benzer bir olayın daha yaşandığını söylediğini iddia etmiş; ancak bu iddia alışveriş merkezi veya üretici firma tarafından doğrulanmamıştır.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2016-00005: Silikon Vadisi'nde bir alışveriş merkezi güvenlik robotunun 16 aylık bir çocuğa çarparak yaralanmasına yol açtığı iddia edildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2016-00005

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Knightscope K5 otonom güvenlik robotu
Sektör
Kamu Hizmetleri
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Temmuz 2016
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#yapay zekâ hatası#kamu güvenliği#kullanıcı güvenliği#tüketici güvenliği#fiziksel kontrol kaybı#güvenlik önlemleri#Knightscope