Turnitin AI dedektörünün bir öğrencinin ödevini hatalı şekilde yapay zekâ üretimi olarak sınıflandırdığı iddia edildi

Yapay zekâ etiği araştırmacısı Timnit Gebru tarafından paylaşılan bir öğrenci beyanında, Turnitin adlı akademik dürüstlük yazılımının, öğrencinin el yazısıyla hazırladığını belirttiği bir ödevi hatalı bir şekilde "yapay zekâ üretimi" olarak damgaladığı öne sürüldü. Söz konusu öğrenci, sistemin ödevinin %67’sini yapay zekâ tarafından yazılmış olarak raporladığını, ancak bu değerlendirmenin gerçeği yansıtmadığını savundu.

Öğrencinin anlatımına göre, durumu açıklamak ve itiraz etmek amacıyla iletişime geçtiği ders profesörü ve bölüm başkanı iddiaları dinlemeyi veya yanıt vermeyi reddetti. Ayrıca Turnitin destek ekibinin de konuyla ilgili herhangi bir yardım sağlamadığı veya teknik açıklama yapmadığı iddia edildi. 4.0 not ortalamasına sahip olduğunu ve onur listesinde yer aldığını belirten öğrenci, sistemin hangi dilsel özelliklere dayanarak bu sonuca vardığının belirsizliğini ve şeffaflık eksikliğini vurguladı.

Olay, akademik dürüstlüğü denetlemek amacıyla kullanılan yapay zekâ araçlarının "yanlış pozitif" (hatalı tespit) üretme riskini ve bu tür durumlarda öğrencilerin itiraz süreçlerindeki savunmasızlığını gündeme getirdi. Turnitin’in tespit metodolojisi ve ilgili ödevin içeriği kamuya açık kaynaklarda yer almadığından, sistemin hata payı bağımsız olarak bütünüyle doğrulanamamıştır. Ancak öğrencinin beyanı, otomatik karar verme sistemlerinin akademik kariyerler üzerindeki potansiyel olumsuz etkilerine dair bir vaka olarak değerlendirilmektedir.