Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Glovo’nun otomatik sisteminin, görev başında hayatını kaybeden bir kuryeye "şartlara uymadığı" gerekçesiyle işten çıkarma e-postası gönderdiği bildirildi
Görev başında hayatını kaybeden bir Glovo kuryesine, şirketin algoritmik yönetim sistemi tarafından hesabın dondurulması sırasında yanlışlıkla otomatik işten çıkarma bildirimi gönderildiği, şirketin ise bu durumu sistemsel bir hata olarak nitelendirildiği bildirildi.
Olay
1 Ekim 2022 tarihinde İtalya'nın Floransa kentinde, 26 yaşındaki grafik tasarım öğrencisi Sebastian Galassi, Glovo şirketi adına gece teslimatı yaptığı sırada bir SUV araçla çarpışarak hayatını kaybetti. Kazadan bir gün sonra Galassi’nin ailesinin, kuryenin hesabının "şartlar ve koşullara uyulmaması" nedeniyle devre dışı bırakıldığını bildiren bir e-posta aldığı aktarıldı.
Söz konusu e-postada, platformun sağlıklı ve adil işleyişini korumak amacıyla "uygunsuz davranışlarda bulunan" kullanıcıların hesaplarının kapatılabileceğinin belirtildiği ifade edildi. Glovo yetkilileri, bu iletinin normalde teslimat sürelerini aksatan kuryelere gönderilen otomatik bir yanıt olduğunu; ancak Galassi olayında bir hata sonucu iletildiğini savundu. Şirket sözcüsü, kuryenin vefatı sonrası kimliğini korumak amacıyla hesabı askıya alma işlemi başlattıklarını, ancak sistemin bu işlem sırasında yanlışlıkla söz konusu otomatik mesajı gönderdiğini açıkladı.
Olayın ardından İtalya Genel İş Konfederasyonu (CGIL), kuryelerin çalışma koşullarını ve güvenlik risklerini gerekçe göstererek Floransa'da 24 saatlik bir grev organize etti. Floransa Belediye Başkanı Dario Nardella, algoritmik yönetim sistemini "insanlık dışı" olarak nitelendirerek, etik referans noktası olmayan otomatik mekanizmaların işçi sömürüsüne dayalı bir model oluşturduğunu savundu. Glovo'nun aileden özür dilediği ve cenaze masraflarının bir kısmını üstlenmeyi teklif ettiği bildirildi.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?