Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Apple’ın kaza ve düşme algılama özelliklerinin kayak merkezlerinde çok sayıda asılsız acil durum çağrısına neden olduğu bildirildi
Apple cihazlarındaki kaza algılama teknolojisinin kayakçıların hareketlerini yanlış yorumlayarak Kuzey Amerika'daki acil çağrı merkezlerine çok sayıda asılsız ihbar gönderdiği ve acil müdahale kaynaklarını meşgul ettiği bildirildi.
Olay
Apple’ın iPhone 14 ve Apple Watch Series 8 modelleriyle birlikte kullanıma sunduğu "Trafik Kazası Algılama" (Crash Detection) ve "Düşme Algılama" (Fall Detection) özelliklerinin, özellikle kayak merkezlerinde hatalı şekilde tetiklendiği ve acil durum servislerini (911) meşgul ettiği bildirildi. Colorado, Idaho ve Alberta gibi bölgelerdeki yetkililer, sistemin kayakçıların ani duruşlarını veya sarsıntılarını ciddi bir trafik kazası olarak yorumlayabildiğini aktardı.
Summit County (Colorado) acil çağrı merkezinin, Ocak 2023’ün bir haftasında 185 asılsız çağrı aldığı; Bonner County (Idaho) yetkililerinin ise yoğun bir Cumartesi günü çağrıların yaklaşık %30’unun bu cihazlardan kaynaklanan hatalı bildirimler olduğunu belirttiği aktarıldı. Kayakçıların kalın giysiler nedeniyle cihazın 10-20 saniyelik uyarı sinyallerini fark edemediği, bu durumun çağrıların kullanıcı onayı olmaksızın başlatılmasına yol açtığı belirtilmektedir. Bu ihbarların, sınırlı acil durum kaynaklarını gerçek vakalardan saptırdığı savunulmaktadır.
Apple, söz konusu özelliklerin hayat kurtarıcı potansiyelini vurgulayarak başarılı vakalardan örnekler sunmuştur. Şirket, belirli senaryolarda hatalı tetiklenmelerin yaşandığının farkında olduklarını kabul etmiş ve teknolojiyi optimize etmek amacıyla iOS 16.2 güncellemesini yayınlamıştır. Ancak bazı bölgelerde, yazılım güncellemelerine rağmen asılsız çağrıların devam ettiği bildirilmiştir.
Olayda algoritmaların, kayak sırasındaki ani ivmelenmeleri yanlış sınıflandırması temel sorun olarak görülmektedir. Bazı yerel yetkililer, kullanıcıların bu özelliği kayak yaparken geçici olarak kapatmasını önerirken; bazıları ise olası gerçek kazalarda sistemin hâlâ kritik bir güvenlik ağı sunduğunu belirterek özelliğin açık tutulması gerektiğini savunmaktadır.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?