St George’s Hastanesi Tıp Fakültesi’nin aday eleme algoritmasının kadın ve azınlık adaylara karşı sistematik ayrımcılık yaptığı belirlendi

Londra’daki St George’s Hastanesi Tıp Fakültesi, 1980’lerin başında aday kabul sürecindeki iş yükünü azaltmak amacıyla mülakata çağrılacak adayların ön elemesini yapan istatistiksel bir bilgisayar programı devreye almıştır. Dr. Franglen tarafından geliştirilen sistemin, 1982 yılından itibaren ilk aşama seçimlerini (initial selection) gerçekleştirdiği bildirilmiştir.

Sistemin, geçmiş yıllardaki insan seçicilerin kararlarını temel alan bir modelleme üzerine kurulduğu ve 1979 yılına gelindiğinde insan panelinin kararlarıyla %90-95 oranında korelasyon sağlayacak şekilde optimize edildiği belirtilmiştir. Ancak 1986 yılında okulun kıdemli öğretim üyeleri Dr. A. Burke ve Dr. J. Collier’in başvurusu üzerine Irksal Eşitlik Komisyonu (CRE) tarafından yapılan incelemede, algoritmanın kadın adaylara ve Avrupa kökenli olmayan isimlere sahip kişilere akademik başarılarından bağımsız olarak sistematik şekilde düşük puan verdiği tespit edilmiştir. Ayrıca adayların posta kodlarından yola çıkarak, işçi sınıfı geçmişine sahip kişilerin de seçim sürecinde dezavantajlı konuma getirildiği öne sürülmüştür.

Komisyon, her yıl yaklaşık 2000 adaydan 60’ının yalnızca cinsiyetleri veya etnik kökenleri nedeniyle mülakat hakkını kaybettiğini saptamıştır. Hazırlanan raporda, programın yeni bir önyargı üretmediği; aksine okulun geçmişteki seçicilerinin halihazırda uyguladığı ayrımcı pratikleri öğrenerek bunları otomatize ettiği vurgulanmıştır. Komisyon sözcüsü, sistemin yalnızca kurumdaki mevcut ayrımcılığı kopyaladığını ifade etmiştir.

İnceleme sonucunda St George’s Hastanesi Tıp Fakültesi suçlu bulunmuş, ancak kurumun hatayı kabul ederek tam iş birliği yapması nedeniyle resmi bir yaptırım (nondiscrimination notice) uygulanmamıştır. Okul yönetimi, haksızlığa uğradığı belirlenen adaylarla iletişime geçmiş ve bu kişilerden üçüne eğitim kontenjanı teklif etmiştir. Olay, algoritmik sistemlerin eğitim verilerindeki toplumsal önyargıları nasıl devralıp büyütebileceğine dair belgelenmiş en eski örneklerden biri olarak değerlendirilmektedir.