Honorlock adlı uzaktan sınav gözetleme sisteminin bir öğrenciyi "kopya çekme" şüphesiyle işaretlemesi tartışmalara yol açtı

Florida’daki Broward College’da biyoloji dersi alan 17 yaşındaki bir öğrencinin, Honorlock adlı uzaktan sınav gözetleme yazılımı tarafından sınav sırasında "şüpheli davranış" sergilediği gerekçesiyle bayraklandığı (flagged) bildirildi. Amazon Rekognition yüz algılama teknolojisini kullanan sistemin, öğrencinin sınav sırasında ekrandan başka yöne bakmasını kaydettiği aktarıldı.

Öğrencinin anlatımına göre, dersin profesörü Jonelle Orridge, Honorlock tarafından oluşturulan 50 saniyelik kayıt kesitini inceledikten sonra, öğrencinin soruları yanıtlamadan önce sık sık aşağıya ve uzağa baktığını belirterek sınav notunu sıfır olarak belirledi. Öğrenci ise bu hareketlerin kopya çekme amaçlı olmadığını, düşünürken veya bir şeyi hatırlamaya çalışırken doğal bir alışkanlık olarak aşağı baktığını savundu. Yapılan görüşmeler sonucunda okul yönetimi, öğrenciyi "yönergelere uymamak" gerekçesiyle sorumlu bularak sınav notunu değiştirmedi ve öğrencinin siciline bir uyarı işledi.

Honorlock sözcüsü Tess Mitchell, sistemin kesin olarak "kopya çekenleri" belirlemediğini, yalnızca belirli davranışları işaretlediğini ve nihai karar ile eylem planının tamamen eğitimciye ve kuruma ait olduğunu belirtti. Şirket, öğrencinin eylemlerini yorumlamanın zor olabileceğini, bu nedenle bu yorumu yapay zekânın değil insanların yapması gerektiğini savundu.

Electronic Frontier Foundation'dan teknoloji uzmanı Cooper Quintin, bu tür yazılımların normal insani davranışları cezalandırdığını ve eğitimcilerin yapay zekâ tarafından oluşturulan uyarıları mutlak bir kanıt gibi kabul etme eğiliminde olduğunu belirtti. Olay, pandemi döneminde kullanımı artan uzaktan gözetleme sistemlerinin şeffaflığı, algoritmik önyargı potansiyeli ve mahremiyet üzerindeki etkilerine dair tartışmaları yeniden gündeme getirdi.