Kaliforniya Baro Sınavı’nda yapay zekâ destekli gözetmen yazılımının adayların üçte birini kopya şüphesiyle işaretlediği bildirildi

Ekim 2020’de Kaliforniya’da pandemi nedeniyle ilk kez çevrim içi ortamda gerçekleştirilen baro sınavında, adayları denetlemek için kullanılan yapay zekâ destekli gözetmenlik yazılımının büyük ölçekli bir hatalı işaretleme krizine yol açtığı öne sürüldü. Kaliforniya Barosu yetkilisi Tammy Campbell tarafından paylaşılan verilere göre, sınava giren 9.301 adayın 3.190’ı (yaklaşık %34’ü) sistem tarafından "şüpheli faaliyet" gerekçesiyle işaretlendi.

Sistemin; adayların gözlerini ekrandan ayırması, ortamda yiyecek/içecek veya cep telefonu gibi yasaklı nesnelerin bulunması gibi durumları otomatik olarak bayrakladığı bildirildi. Adaylara gönderilen "Bölüm 6" bildirimlerinde, "yüzün veya gözlerin uzun süre kamera görüş alanında kalmaması" gibi genel ifadelerin yer aldığı; bu durumun adaylar üzerinde büyük bir stres oluşturduğu aktarıldı. Ayrıca sosyal medyada yer alan bazı doğrulanmamış iddialara göre, bazı adayların sessiz kalmaları gereken sınavda "ses algılanmadı" (mikrofonun kapatıldığı şüphesiyle) gerekçesiyle işaretlendiği belirtildi.

Hukukçular ve etik uzmanları, algoritmanın aşırı hassas olduğunu ve insan denetimi süreci tamamlanmadan bu kadar yüksek oranda adayın zan altında bırakılmasını eleştirdi. Adayları temsil eden avukat Megan Zavieh, müvekkillerinin doğal insan hareketlerinin yanlış sınıflandırıldığını ifade etti. Ayrıca, eleştirmenler bu tür algoritmaların azınlık grupları üzerinde daha yüksek hata payına sahip olabileceğine dair endişelerini dile getirdi.

Kaliforniya Barosu sözcüsü Teresa Ruano, işaretlemelerin tek başına bir suçlama teşkil etmediğini, videoların insan denetmenler tarafından incelenmeye devam ettiğini belirtti. Yazılım sağlayıcısı ExamSoft ise sistemin yalnızca veri sağladığını, kopya çekilip çekilmediğine dair nihai kararın tamamen sınavı düzenleyen kurumun sorumluluğunda olduğunu açıkladı.