Serve Robotics’e ait otonom teslimat robotunun Los Angeles’ta bir suç mahallindeki emniyet şeridini ihlal ettiği bildirildi

Los Angeles’taki Hollywood Lisesi yakınlarında, bir silahlı saldırı şüphesi nedeniyle emniyet şeridiyle kapatılan suç mahalline Serve Robotics şirketine ait bir otonom teslimat robotunun girdiği bildirildi. "Film the Police LA" adlı sosyal medya hesabının yöneticisi William Gude tarafından kaydedilen görüntülerde, robotun sarı emniyet şeridi önünde bir süre beklediği, ardından çevredeki bazı kişilerin şeridi kaldırmasıyla olay yerinin içinden geçerek yoluna devam ettiği görüldü.

Serve Robotics CEO’su Ali Kashani, TechCrunch’a yaptığı açıklamada, robotun suç mahalline girme kararının otonom sürüş sistemi tarafından değil, sistemi uzaktan izleyen bir insan operatör tarafından verildiğini belirtti. Şirket protokollerine göre robotların her kavşakta veya bir engelle karşılaşıldığında uzaktan bir operatör tarafından denetlendiği; olay anında çevredeki kişilerin şeridi kaldırıp robota "geç" işareti yapması üzerine operatörün ilerleme kararı aldığı ifade edildi.

Kashani, robotun otonom sisteminin aslında engel önünde durarak doğru olanı yaptığını, ancak insan operatörün muhakeme hatası yaptığını savundu. Şirketin bu olayın ardından operatör eğitimlerini ve standart çalışma prosedürlerini gözden geçirdiği; ayrıca yazılıma kolluk kuvvetlerini tanıma, suç mahallerini tespit etme ve bu bölgelerden otomatik olarak kaçınma gibi yeni güvenlik özellikleri ekleme olasılıkları üzerinde çalıştığı bildirildi. Kashani, bu tür olayların insanların hata yapabildiğini gösterdiğini ve gelecekte yapay zekaya daha fazla güvenilmesi gerekebileceğini belirtti.