Avustralyalı bir telekomünikasyon şirketinin olay yönetimi için kullandığı yapay zekâ sisteminin hatalı kararlar nedeniyle yaklaşık 11 milyon dolar zarara yol açtığı iddia edildi

2018 yılı başlarında Avustralya merkezli bir telekomünikasyon şirketinin, operasyonel maliyetleri %25 oranında azaltmak amacıyla ağ olay yönetimi süreçlerine bir yapay zekâ programı entegre ettiği bildirildi. Sistemin, kullanıcılar tarafından raporlanan tüm ağ arızalarını karşılamak ve belirli testler sonucunda üç eylemden birini (uzaktan yazılımsal çözüm, teknik ekip yönlendirme veya insan operatöre aktarma) seçmek üzere tasarlandığı aktarıldı.

Sistemin devreye alınmasından kısa bir süre sonra, botun karmaşık senaryoları anlamlandırmakta yetersiz kaldığı ve en maliyetli seçenek olan "teknik ekip yönlendirme" kararını gereğinden fazla uyguladığı tespit edildi. İnsan operatörlerin kolayca çözümleyebileceği ve verileri birleştirerek sonuç çıkarabileceği durumların sistem tarafından yeterince net algılanmadığı; bu durumun saha ziyaretlerinde öngörülemeyen bir artışa neden olduğu öne sürüldü.

Olayın maliyetini artıran temel unsurun, sistemin bir acil durdurma mekanizması (kill switch) bulunmadan, kullanıcı ve operatör arayüzünün tam merkezine "ya hep ya hiç" mantığıyla yerleştirilmesi olduğu belirtildi. Şirketin başlangıçta maliyet tasarrufu amacıyla ilgili personeli işten çıkarmış olması nedeniyle manuel işleyişe geri dönülemediği; sistemin çalışır haldeyken onarılması sürecinin bir yıldan fazla sürdüğü ve bu süreçte yaklaşık 11 milyon dolarlık ek operasyonel maliyet oluştuğu iddia edildi.

Şirketin ismi kaynakta açıkça belirtilmediği için olayın detayları ve kesin maliyeti bağımsız kurumlarca bütünüyle doğrulanamamıştır.