Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Google AI Overview'ın Air India Flight 171 Kazasındaki Uçak Üreticisini Boeing Yerine Airbus Olarak Yanlış Bildirdiği Raporlandı
Google AI Overview, Air India Flight 171 kazasındaki uçağı bazı sorgularda yanlışlıkla Airbus A330 olarak tanımladı. Uçağın gerçekte Boeing 787 olduğu ve Google'ın hatalı yanıtı kaldırdığı bildirildi.
Olay
Air India Flight 171'in ölümcül kazasının ardından Google AI Overview'ın bazı arama sorgularında olaya karışan uçağı yanlış biçimde Airbus A330 olarak tanımladığı bildirildi. Kazada yer alan uçak gerçekte Boeing 787 idi.
Hatanın, sistemin haber metinlerindeki Airbus'ın Boeing'in rakibi olduğuna ilişkin ifadeleri yanlış bağlamlandırmasından kaynaklandığı değerlendirildi. Yanıt sorgular arasında değişkenlik gösterdi; Google hatalı çıktıyı kaldırdığını ve örneğin sistem iyileştirmelerinde kullanılacağını açıkladı.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?