Kanada’da çevrimiçi sınav gözetleme yazılımlarının biyometrik veri kullanımı ve ayrımcılık riskleri nedeniyle yasal eşikleri karşılamadığı bildirildi

Ottawa Üniversitesi tarafından hazırlanan ve Kanada Gizlilik Komiserliği Ofisi (OPC) Katkı Programı tarafından finanse edilen akademik bir rapor (OPC görüşlerin kendisine ait olmadığını belirtmiştir), pandemi döneminde kullanımı yaygınlaşan çevrimiçi sınav gözetleme yazılımlarının yasal rıza, mahremiyet ve ayrımcılık karşıtı standartları karşılamada yetersiz kalabildiğini ortaya koydu. Respondus, Proctorio ve ProctorU gibi sistemlerin yaygınlaştığı belirtilen raporda; veri madenciliği ve yüz tanıma teknolojilerini kullanan bu tür platformların, öğrencilerden aldığı rızanın Kanada hukukundaki "özgür, açık ve bireysel rıza" eşiğini karşılamadığı öne sürüldü.

Raporda, bu sistemlerin yalnızca ırk, cinsiyet ve yaş gibi bilinen biyometrik önyargıları barındırmakla kalmadığı, aynı zamanda sosyoekonomik faktörlere dayalı "yeni nesil ayrımcılık" riskleri taşıdığı belirtildi. Yapay zekâ algoritmalarının; bir evcil hayvanın sesini, çocuk gürültüsünü veya çok kuşaklı hanelerdeki olağan hareketlilikleri "kopya girişimi" olarak hatalı sınıflandırabildiği aktarıldı. Ayrıca kırsal bölgelerde yaşayan veya yeterli teknik donanıma sahip olmayan öğrencilerin, sistemin teknik gereksinimleri nedeniyle haksız yere riskli olarak işaretlenebileceği değerlendirildi.

Araştırmacılar, biyometrik veri toplama ve saklama süreçlerinin denetimindeki zorluklara da dikkat çekti. Yazılım sağlayıcısı şirketlerin çoğunun ABD merkezli olması nedeniyle verilerin sınır ötesine aktarıldığı, bunun da Kanada veri koruma yasalarının uygulanmasını karmaşıklaştırdığı ifade edildi. Raporda, özellikle kesişimsel kimliklere sahip öğrenciler için "yüksek ayrımcılık riski" bulunduğu vurgulanarak, belirli yapay zekâ kullanımlarının yasaklanması veya insan gözetimiyle sıkı denetim altına alınması gerektiği tavsiye edildi.