Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Çin’in Xinjiang bölgesinde kullanılan IJOP adlı veri platformunun algoritmik analizlerle kitlesel gözetim ve keyfi gözaltılara zemin hazırladığı iddia edildi
Çin’in Xinjiang bölgesinde IJOP adlı merkezi veri platformunun, algoritmik analizler yoluyla bireylerin günlük hareketlerini ve dijital aktivitelerini "şüpheli" olarak sınıflandırarak kitlesel gözaltılara ve hareket kısıtlamalarına yol açtığı bildirilmiştir.
Olay
İnsan Hakları İzleme Örgütü (HRW) tarafından yayımlanan raporlarda, Çin hükümetinin Xinjiang bölgesindeki yaklaşık 13 milyon Uygur ve diğer Müslüman azınlıkları takip etmek amacıyla Entegre Ortak Operasyon Platformu (IJOP) adlı bir merkezi sinir sistemi kullandığı bildirilmiştir. Söz konusu sistemin; telefon verileri, araç hareketleri, kimlik kartı kullanımı ve hatta elektrik tüketimi gibi günlük aktiviteleri takip ederek "şüpheli" durumları algoritmik olarak belirlediği öne sürülmektedir.
Sistemin işleyişine dair sunulan bir vaka örneğinde, Batı’da eğitim görmüş Yueming Zhou (takma isim) adlı bir kadının, Çin'in internet engellerini aşmak için VPN kullanması nedeniyle otoriteler tarafından tespit edilerek "şüpheli" olarak işaretlendiği aktarılmıştır. Zhou’nun bu dijital aktivite sonrası gözaltına alındığı; pasaportuna el konularak biyometrik verilerinin (DNA örneği, yüz taraması, parmak izi) rızası dışında toplandığı ve beş ay boyunca bir "siyasi eğitim kampında" tutulduğu bildirilmiştir. Kamptaki yaşamın 24 saat boyunca kameralar ve hoparlörler aracılığıyla izlendiği, mahkûmların her hareketinin dijital bir denetim altında olduğu belirtilmiştir. Zhou, kamptan çıktıktan sonra da sıkı denetim altında tutulmuş ve ancak 2,5 yıl sonra bölgeden ayrılmasına izin verilmiştir.
IJOP sisteminin, bireylerin hareket özgürlüğünü "tehdit seviyelerine" göre kısıtlayan sanal çitler oluşturduğu iddia edilmektedir. Kontrol noktalarındaki veri kapılarının, platform tarafından "sorunlu" olarak sınıflandırılan kişiler için uyarı verdiği ve bu durumun kolluk kuvvetlerini müdahaleye yönlendirdiği değerlendirilmektedir. Raporda, sistemin aşırı elektrik kullanımı veya bir kişinin kendi evinin arka kapısını kullanması gibi sıradan eylemleri bile potansiyel radikalizm göstergesi olarak sınıflandırabildiği ifade edilmiştir.
Çin hükümeti, söz konusu uygulamaları "Terörizme Karşı Sert Darbe Kampanyası" kapsamında güvenlik ve sosyal istikrarı sağlama amaçlı önlemler olarak tanımlamaktadır. Ancak bağımsız gözlemciler, sistemin şeffaflıktan uzak olduğunu ve algoritmik kararların hukuki bir denetim mekanizması olmaksızın kitlesel hak ihlallerine yol açtığını savunmaktadır. Sistemin teknik altyapısı ve veri işleme süreçleri hakkındaki bilgiler büyük ölçüde saha araştırmalarına ve tanık beyanlarına dayandığı için, algoritmaların tam çalışma prensibi resmi kaynaklarca doğrulanmamıştır.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?