Yapay zekâ tespit araçlarının öğrencileri hatalı şekilde kopya çekmekle suçladığı ve akademik mağduriyetlere yol açtığı bildirildi

Eğitim kurumlarının, öğrencilerin ödevlerinde üretken yapay zekâ kullanıp kullanmadığını denetlemek amacıyla başvurduğu tespit yazılımlarının, hatalı sonuçlar vererek masum öğrencileri akademik yaptırımlarla karşı karşıya bıraktığı öne sürülmektedir. Bloomberg tarafından aktarılan vakalarda, özellikle nöroçeşitli (otizm spektrumundaki) bireylerin ve ana dili İngilizce olmayan (ESL) öğrencilerin, yazım tarzlarının "formülsel" veya "basit" bulunması nedeniyle sistemler tarafından yanlışlıkla "yapay zekâ üretimi" olarak damgalandığı bildirilmiştir.

Örneğin, Central Methodist Üniversitesi öğrencisi Moira Olmsted’in, otizm spektrumunda olması nedeniyle sahip olduğu sistematik yazım tarzının Turnitin sistemi tarafından yapay zekâ çıktısı olarak sınıflandırıldığı ve öğrencinin başlangıçta sıfır puan aldığı aktarıldı. Benzer şekilde, ana dili İngilizce olmayan Ken Sahib’in de Berkeley College’daki bir ödevinde benzer bir suçlamayla karşılaştığı ve profesörüyle olan güven ilişkisinin zedelendiği belirtildi. Bloomberg’in ChatGPT öncesi dönemde yazılmış 500 makale üzerinde yaptığı testlerde, önde gelen tespit araçlarının %1 ile %2 oranında "yanlış pozitif" (hatalı suçlama) sonucu verdiği; Stanford Üniversitesi tarafından yapılan bir araştırmada ise bu araçların ana dili İngilizce olmayan öğrencilerin makalelerini %50’den fazla oranda hatalı işaretlediği saptanmıştır.

İlgili teknoloji şirketleri, sistemlerinin %99 civarında doğruluk oranına sahip olduğunu savunmakla birlikte, hiçbir sistemin hatasız olmadığını kabul etmektedir. Turnitin yetkilileri, cümle bazlı analizlerde %4 olan yanlış pozitif oranını tüm belgeler için %1’in altına indirdiklerini ve iç testlerinin ESL öğrencilerini hatalı suçlamadığını savunurken; Copyleaks ve GPTZero yöneticileri, bu araçların kesin bir hüküm yerine öğretmenler için bir "sarı bayrak" (uyarı sinyali) olarak değerlendirilmesi gerektiğini vurgulamıştır. Öte yandan, Vanderbilt Üniversitesi gibi bazı büyük kurumların, doğruluk endişeleri nedeniyle Turnitin’in yapay zekâ tespit özelliğini kullanmayı bıraktığı bildirilmiştir.

Olaylar, yapay zekâ tespit araçlarının çıktılarının mutlak gerçeklik olarak kabul edilmesinin, öğrenciler üzerinde yoğun kaygı ve akademik itibar kaybı yarattığını göstermektedir. Sistemlerin hata payı ve belirli gruplara yönelik algoritmik önyargı riskleri nedeniyle, bu araçların tek başına bir disiplin kanıtı olarak kullanılmasının sakıncaları tartışılmaktadır.