Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Yüz tanıma yazılımının koyu tenli öğrencileri algılayamadığı ve öğretmenlere hatalı bildirimler gönderdiği bildirildi
Koyu tenli bir öğrencinin, okullarda kullanılan yüz tanıma yazılımı tarafından algılanamadığı için öğretmenlerine hatalı şekilde raporlandığı ve bu tür sistemlerin beyaz olmayan yüzlerde %50'den fazla hata payıyla çalışabildiği bildirildi.
Olay
Mozilla tarafından paylaşılan bir çalışmada, Amaya isimli koyu tenli bir öğrencinin, sınavlar ve ders katılımı için zorunlu tutulan yüz tanıma yazılımları tarafından ten rengi nedeniyle algılanamadığı bildirildi. Yazılımın öğrenciyi tespit edememesinin, sistemin öğretmenlere otomatik uyarılar (flag) göndermesine yol açtığı belirtildi.
Paylaşılan bilgilere göre, okullarda kullanılan bazı yüz algılama sistemlerinin, beyaz olmayan bireylerin yüzlerini tanımada %50’yi aşan oranlarda başarısız olabildiği ifade edilmektedir. Kaynak metinde Amaya’nın eğitim gördüğü kurumun adı veya kullanılan yazılımın spesifik markası belirtilmemiştir. Olay, yapay zekâ tabanlı tanıma sistemlerinin ırksal önyargılar barındırabildiğine dair bir örnek olarak sunulmaktadır.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?