Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Elite Dangerous oyunundaki bir yazılım hatası, NPC'lerin tasarım dışı güçlü silahlar kullanmasına neden oldu
Elite Dangerous oyununda bir ağ hatası nedeniyle NPC'lerin farklı silah özelliklerini hatalı şekilde birleştirerek aşırı güçlü silahlar kullanması üzerine geliştiriciler ilgili özellikleri geçici olarak kaldırdı.
Olay
Haziran 2016’da, Elite Dangerous oyununa gelen "2.1 Engineers" güncellemesinin ardından, oyuncu dışı karakterlerin (NPC) oyunun tasarım sınırlarını aşan ve "süper silah" olarak nitelendirilen ekipmanlar kullandığı bildirildi. Güncelleme normalde yüksek seviyeli NPC'lerin savaş yeteneklerini ve oyun içi zanaatkârlık (crafting) özelliklerini kullanabilmesini hedefliyordu; ancak bir hata nedeniyle sistemin öngörülemeyen silah kombinasyonları ortaya çıkardığı gözlemlendi.
Geliştirici firma Frontier Developments tarafından yapılan incelemede, sorunun bir ağ hatasından (networking issue) kaynaklandığı tespit edildi. Bu teknik hata, yapay zekânın farklı silah istatistiklerini ve yeteneklerini hatalı bir şekilde birleştirmesine (merge) neden oldu. Örneğin, çok yüksek hasar veren bir raylı tüfeğin (rail gun), bir darbe lazerinin (pulse laser) atış hızına sahip olması gibi normalde imkânsız olan kombinasyonlar oluştu ve bu durum oyuncu gemilerinin saniyeler içinde imha edilmesine yol açtı.
Şirketin topluluk yöneticisi Zac Antonaci, durumun yapay zekânın bilinç kazanmasıyla ilgisi olmadığını, tamamen teknik bir hata olduğunu vurguladı. Yapay zekânın zaten oyunculara saldırmak üzere programlandığı, ancak hatanın bu saldırıların gücünü hatalı bir şekilde artırdığı belirtildi. Sorunu gidermek adına geliştiriciler, ilgili güncelleme ile gelen mühendislik silahı özelliklerini hata düzeltilene kadar geçici olarak devre dışı bıraktı.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
- [6]
- [7]
- [8]
- [9]
- [10]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?