Honda’nın Çarpışma Hafifletici Fren Sistemi’nin (CMBS) nesne algılama hatası nedeniyle ani frenleme yaparak yaralanmalara yol açtığı iddia edildi

Honda marka araçlarda bulunan ve yapay zekâ destekli bir güvenlik donanımı olan Çarpışma Hafifletici Fren Sistemi’nin (CMBS), yolda herhangi bir engel bulunmadığı durumlarda dahi ani frenleme yaparak "hayalet frenleme" (phantom braking) olarak adlandırılan soruna yol açtığı bildirilmiştir. Milimetrik dalga radarı ve kamera verilerini işleyerek potansiyel çarpışmaları önlemek üzere tasarlanan sistemin, çevresel verileri hatalı yorumlayarak sürücü iradesi dışında sert frenleme yaptığı öne sürülmektedir.

ABD’nin Kaliforniya eyaletinde devam eden *Cadena v. American Honda Motor Co.* adlı toplu dava dosyasında yer alan ifadelere göre, bir sürücü 45 mil hızla düz bir yolda ilerlerken sistemin hiçbir uyarı vermeden frenleri kilitlediğini ve bu durumun boyun incinmesine (whiplash) neden olduğunu belirtmiştir. Benzer şekilde, Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA) kayıtlarında da sistemin karşı yönden gelen trafiği hatalı algılayarak kavşak ortasında veya boş yollarda aracı durdurduğuna dair şikâyetler yer almaktadır.

Söz konusu sorunun donanımsal bir arızadan ziyade, yazılımın karar verme mekanizmasındaki programlama tercihlerinden kaynaklandığı değerlendirilmektedir. Yapay zekâ sisteminin, gerçek bir tehlike ile zararsız çevresel verileri ayırt etme noktasında yeterlilik eksikliği sergilediği iddia edilmektedir. Öte yandan, NHTSA gibi düzenleyici kurumların insan hatasını azaltmak amacıyla bu tür teknolojilerin yaygınlaşmasını teşvik ettiği, ancak sistemlerin henüz her türlü sürüş koşulunda hatasız çalışacak olgunluğa erişemediği belirtilmektedir.

Üretici firmanın bu sorun için henüz kesin bir çözüm sunamadığı ve hukuki süreçlerin devam ettiği aktarılmaktadır. Bazı mahkeme kararlarında, NHTSA tarafından belirlenmiş zorunlu bir standart bulunmadığı gerekçesiyle üreticilerin sorumluluğuna ilişkin hukuki belirsizliklerin sürdüğü ifade edilmektedir. Bu durum, otomatik sistemlerin güvenliği artırma vaadi ile öngörülemeyen yeni riskler yaratma potansiyeli arasındaki gerilimi ortaya koymaktadır.