Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Ibrahim Diallo’nun bir otomasyon sistemi tarafından hatalı şekilde işten çıkarıldığı ve yöneticilerin süreci durduramadığı bildirildi
Yazılım geliştirici Ibrahim Diallo'nun, bir şirket birleşmesi sonrası sözleşmesinin sisteme girilmemesi nedeniyle otomasyon sistemi tarafından otomatik olarak işten çıkarıldığı, yöneticilerinin müdahale edemediği süreçte binadan güvenlik eşliğinde uzaklaştırıldığı ve üç hafta işsiz kaldığı bildirildi.
Olay
Yazılım geliştirici Ibrahim Diallo, Los Angeles’taki bir şirkette sekiz aydır çalışmaktayken, kurumsal bir otomasyon sisteminin hatası nedeniyle işten çıkarıldığını ve bu sürecin insan müdahalesiyle durdurulamadığını bildirdi. Olayın, şirketin başka bir büyük kuruluş tarafından satın alınması sürecindeki bir yönetim boşluğundan kaynaklandığı öne sürüldü. Diallo’nun aktardığına göre süreç, giriş kartının çalışmaması ve ardından kurumsal sistemlere (Jira, Windows vb.) erişiminin kademeli olarak engellenmesiyle başladı.
Diallo’nun yöneticileri ve departman direktörü, çalışanın işten çıkarılmasına yönelik bir tasarrufları olmadığını ve sistemdeki "pasif" durumunu değiştiremediklerini belirtti. Ancak otomasyon sisteminin, sözleşme yenileme verisinin eksikliğini "iş akdinin feshi" olarak algıladığı ve geri döndürülemez bir dizi komutu otomatik olarak yürüttüğü değerlendirildi. Bu komutlar kapsamında güvenlik birimine otomatik talimatlar gönderildiği ve Diallo’nun nihayetinde güvenlik eşliğinde binadan uzaklaştırıldığı aktarıldı.
Yapılan incelemede, Diallo’nun eski yöneticisinin işten ayrılmadan önce yeni sisteme gerekli sözleşme güncellemelerini girmediği, sistemin de bu eksikliği otomatik bir fesih işlemi olarak işleme aldığı belirlendi. Yöneticilerin ve insan kaynakları biriminin, sistemin başlattığı bu zincirleme süreci (hesapların kapatılması, erişim yetkilerinin iptali ve güvenlik protokollerinin devreye girmesi) teknik olarak durduramadığı veya üzerine yazamadığı bildirildi.
Olayın çözülmesi ve Diallo’nun işine iade edilmesi yaklaşık üç hafta sürdü. Bu süre zarfında çalışanın ücret alamadığı ve iş yerindeki itibarının zedelendiği belirtildi. Gine asıllı olan Diallo, sistemin "insani muhakemeden yoksun" yapısı nedeniyle işine geri dönse de kısa süre sonra istifa ettiğini açıkladı. Olay, otomasyon sistemlerinde hesap verebilirlik ve insan müdahalesi eksikliğinin yarattığı risklere dair bir örnek teşkil etmektedir.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
- [6]
- [7]
- [8]
- [9]
- [10]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?