Arjantin’de Microsoft iş birliğiyle sunulan yapay zekâ sisteminin kız çocuklarının hamilelik riskini "önceden belirlediği" iddia edildi

2018 yılında Arjantin’in Salta eyaleti hükümeti, Microsoft ve Conin Vakfı, düşük gelirli bölgelerde yaşayan kız çocuklarının ve genç kadınların gelecekteki hamilelik risklerini tahmin etmek amacıyla tasarlanan "Sosyal Müdahale Teknoloji Platformu" adlı sistemi tanıtmıştır. Dönemin eyalet valisi Juan Manuel Urtubey, sistemin isim, soyisim ve adres bilgileri üzerinden hangi kız çocuklarının beş veya altı yıl içinde hamile kalmaya "%86 oranında kaderinde yazılı" (predestined) olduğunu önceden görebildiğini ileri sürmüştür.

Sistemin, Salta'da yaşayan 200.000 sakinden (10-19 yaş arası 12.000 kız çocuğu ve kadın dâhil) toplanan yaş, etnik köken, engellilik durumu ve evde sıcak su bulunup bulunmadığı gibi verilerle eğitildiği bildirilmiştir. Süreç kapsamında Erken Çocukluk Bakanlığı'na bağlı saha ajanlarının belirlenen kişilerin evlerini ziyaret ederek anketler yaptığı, fotoğraflar çektiği ve GPS konumlarını kaydettiği aktarılmıştır. Bu faaliyetlerin odağında yoksul kesimler, göçmenler ve yerli toplulukların (Wichí, Qulla ve Guaraní) bulunduğu belirtilmiştir.

Buenos Aires Üniversitesi Uygulamalı Yapay Zekâ Laboratuvarı, sistemin %98,2 oranında doğru tahmin yaptığına dair iddiaları sorgulayarak teknik ve tasarım hatalarına dikkat çekmiştir. Ancak sistemin şeffaf olmaması nedeniyle bu incelemelerin kısıtlı bilgilerle yapıldığı not edilmiştir. Akademisyenler, modelin cinsel eğitim veya doğum kontrol yöntemlerine erişim gibi temel kamu sağlığı değişkenlerini içermediğini; bunun yerine sosyoekonomik verileri kullanarak suçu bireye yükleyen bir yapı sunduğunu savunmuştur.

Microsoft temsilcileri, projeyi yapay zekâ verilerinin devlet programlarında kullanımına dair "öncü vakalardan biri" olarak nitelendirmiştir. Ancak sistemin hamileliği önlemek için somut olarak nasıl bir fayda sağladığına dair kanıt sunulmadığı ve toplanan verilerin akıbetinin belirsiz olduğu ifade edilmiştir. Projenin Arjantin’de kürtajın yasallaşması tartışmalarının yaşandığı bir dönemde ortaya çıkması, sistemin bir denetim ve baskı aracı olarak kullanılabileceği yönündeki endişeleri artırmıştır.