Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Gates Vakfı’nın öğretmen performansını ölçen algoritma temelli değerlendirme sisteminin başarısız olduğu ve mesleki zararlara yol açtığı iddia edildi
Gates Vakfı’nın öğretmen performansını ölçmek için kullandığı algoritmik sistemin öğrenci başarısını artıramadığı saptanırken, sistemin şeffaf olmayan yapısıyla öğretmenlerin kariyerlerine zarar verdiği öne sürüldü.
Olay
Gates Vakfı tarafından yaklaşık 575 milyon dolar bütçeyle finanse edilen ve kamu okullarındaki öğretmen etkinliğini artırmayı hedefleyen "Etkili Öğretim için Yoğun Ortaklıklar" (Intensive Partnerships for Effective Teaching) programının, beklenen sonuçları vermediği bildirildi. RAND Corporation tarafından hazırlanan bağımsız değerlendirme raporunda, büyük veri ve algoritmik analizlere dayanan bu girişimin, düşük gelirli azınlık öğrencilerin başarı oranlarını veya mezuniyet sayılarını artırma hedefine ulaşamadığı saptandı.
Sistemde öğretmenlerin performansını ölçmek için test puanları, okul müdürü gözlemleri ve öğrenci/veli anketleri gibi verileri işleyen "katma değer modelleri" kullanıldı. Ancak yazar Cathy O'Neil, bu modellerin "kara kutu" olarak nitelendirilen kapalı devre yapısını ve istatistiksel olarak zayıf olmalarını eleştirdi. O'Neil, bu algoritmik modellerin sonuçlarının zaman zaman rastgele sayı üreteçlerinden farksız çıktığını ve veri toplama süreçlerindeki anketlerin taraflı olduğunu öne sürdü.
Programın en önemli risk faktörünün, bu algoritmik puanların öğretmenlerin terfisi veya işten çıkarılması gibi yüksek riskli kararlarda kullanılması olduğu savunuldu. RAND raporu bu konuda kesin bir yargıya varmasa da, O'Neil bu yaklaşımın öğretmen açığı yaşanan bir dönemde birçok eğitimcinin kariyerinin haksız yere sonlanmasına neden olduğunu iddia etti. Yazar, bu tür geniş ölçekli algoritmik deneylerin yeterli bilimsel ön testler yapılmadan insanlar üzerinde uygulanmasının etik ve toplumsal riskler barındırdığını vurguladı.
Gates Vakfı’nın projenin başarısızlığına ilişkin bağımsız denetim sonuçlarını kabul ettiği görülmektedir. Ancak algoritmaların şeffaf olmaması nedeniyle, hatalı değerlendirildiği öne sürülen öğretmenlerin bu sonuçlara itiraz etme imkânının kısıtlandığı ve sistemin bireysel kariyerler üzerinde yarattığı iddia edilen tahribat, tartışma konusu olmaya devam etmektedir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?