Brezilya'nın yapay zekâ destekli sosyal güvenlik uygulaması Meu INSS'in, kırsal kesimden çalışanların karmaşık taleplerini hatalı şekilde reddettiği iddia edildi.

Brezilya'nın kuzeydoğusundan eski bir şeker kamışı işçisi olan Josélia de Brito'nun, yapay zekâ destekli Meu INSS uygulaması üzerinden yaptığı emeklilik başvurusunun, sistemin kendisini hatalı biçimde erkek olarak kaydetmesi nedeniyle anında reddedildiği iddia edildi. Birden fazla kronik hastalığı olduğu belirtilen de Brito'nun, küçük başvuru hatalarından dolayı sosyal yardımların tekrar tekrar reddedilmesiyle karşılaştığı bildirildi.

Haberlerde alıntılanan analistlerin, sistemin tasarımının kırsal kesimdeki ve dijital olarak dışlanmış kullanıcıları dezavantajlı duruma düşürebileceğini belirttiği aktarıldı. Sistemin, tarım işçileri gibi daha karmaşık ve ek belgeler gerektiren başvuruları analiz etme konusunda yetersiz kaldığı, bu tür başvuruların insan incelemesi yerine otomatik olarak reddedildiği belirtildi.

Olayın, kamu hizmetlerinde kullanılan yapay zekâ sistemlerinin karmaşık veya standart dışı başvuruları yeterince değerlendirememesinin, kırsal ve dijital olarak dezavantajlı grupları haksız yere mağdur edebileceğini ve bunun yapay zekâ sistem güvenliği ve yeterlilik eksikliği açısından önemli bir risk oluşturduğunu gösterdiği değerlendirilmektedir.