RISKYZ-2015-00001MITAIID5 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar

Avustralya’da Centrelink’in "Robo-debt" Sistemi Hakkında Ombudsman Raporu Yayımlandı

Yayınlandı: 28 Temmuz 2026Olay: Temmuz 2015

Avustralya'da otomatik borç tespit sisteminin borç doğruluk oranı değişmese de, uygulama sürecindeki şeffaflık ve iletişim hataları nedeniyle binlerce kişinin mağduriyet yaşadığı bildirilmiştir.

Olay

Avustralya Beşeri Hizmetler Departmanı (Centrelink), 2016 yılında sosyal yardım alanların gelirlerini vergi kayıtlarıyla (ATO) otomatik karşılaştıran "Robo-debt" sistemini devreye almıştır. Bu sistem, insan denetimini azaltarak veri eşleştirme yoluyla otomatik borç bildirimleri göndermeye başlamıştır. Ancak sistemin kullandığı "gelir ortalaması alma" yönteminin, düzensiz geliri olanlarda hatalı hesaplamalara yol açtığı öne sürülmüştür.

Avustralya Kamu Denetçiliği Kurumu (Ombudsman) incelemesinde, tespit edilen borçların büyük ölçüde doğru olduğunu saptamakla birlikte, sistemin şeffaflıktan uzak olduğunu ve vatandaşlara "makul olmayan" bir ispat yükü yüklediğini belirtmiştir. Rapora göre, bildirim gönderilen her beş kişiden birinin borcu çıkmamaktadır; ancak bu %20'lik oran otomasyon öncesi manuel sistemle aynıdır ve yeni sistemle artmamıştır. Buna rağmen, 21 günlük kısa itiraz süreleri, yetersiz personel eğitimi ve eksik iletişim kanalları nedeniyle vatandaşların kendilerini savunmakta zorlandığı bildirilmiştir. Bazı kullanıcıların borç incelemesi sürerken ödeme planlarına zorlandığı ve icra takibiyle karşılaştığı, bu sürecin ciddi psikolojik baskı yarattığı kaydedilmiştir.

Hükümet, sistemin temelini savunmakla birlikte iletişim eksikliklerini kabul etmiş ve Ombudsman'ın önerilerini uygulamayı taahhüt etmiştir. Öte yandan, bir Senato komitesinin sistemin "prosedürel hakkaniyetten yoksun" olduğu yönündeki ağır eleştirileri hükümet tarafından reddedilmiştir.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2015-00001: Avustralya’da Centrelink’in "Robo-debt" Sistemi Hakkında Ombudsman Raporu Yayımlandı. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2015-00001

Sınıflandırma

Risk Alanı
7.Yapay Zekâ Sistem Güvenliği, Hatalar ve Sınırlamalar
Alt Kategori
7.3Yetersiz kapasite veya dayanıklılık
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Centrelink Çevrim içi Uyumluluk Müdahalesi (OCI) / "Robo-debt" sistemi
Sektör
Kamu Hizmetleri
Konum
Avustralya

Zaman Çizelgesi

Olay Tarihi
Temmuz 2015
Yayınlandı
28.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#otomatik karar verme#kamu hizmetleri#doğrulama eksikliği#hesap verebilirlik#şeffaflık#kamu politikası