Michigan’da bir paten pistinde kullanılan yüz tanıma sisteminin bir siyahî genci hatalı teşhis ederek tesise girişini engellediği bildirildi

ABD’nin Michigan eyaletindeki Livonia şehrinde bulunan Riverside Arena adlı paten pistine giden 14 yaşındaki Lamya Robinson’ın, tesisteki yüz tanıma sistemi tarafından hatalı teşhis edildiği ve içeri alınmadığı bildirildi. Güvenlik kameraları tarafından taranan Robinson’ın yüzünün, sistem tarafından daha önce tesiste bir kavgaya karıştığı gerekçesiyle yasaklanan bir başka kişiyle eşleştiği aktarıldı.

İşletme yönetimi tarafından yapılan açıklamada, yazılımın Robinson ile yasaklı kişi arasında %97 oranında bir eşleşme sağladığı ve personelin bu veriye dayanarak hareket ettiği ifade edildi. Robinson ise söz konusu paten pistine daha önce hiç gitmediğini belirterek teşhisin hatalı olduğunu savundu. İşletme yetkilileri, bir hata yapılmış olması durumunda özür dilediklerini belirten bir açıklama yaparken; Robinson’ın ailesi, durumun "ırksal profilleme" teşkil ettiğini savunarak hukuki süreç başlatmayı değerlendirdiklerini bildirdi.

Olay, yüz tanıma teknolojilerinin özellikle koyu tenli bireyler ve kadınlar üzerindeki hata payına ilişkin tartışmaları yeniden gündeme getirdi. Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) tarafından yapılan testler, birçok ticari algoritmanın siyahî kadınları yanlış eşleştirme olasılığının beyaz bireylere kıyasla 10 kata kadar daha yüksek olabildiğini göstermektedir.

Söz konusu vakada, sistemin ürettiği yüksek güven oranına rağmen fiziksel bir doğrulama yapılmadan gencin tesisten uzaklaştırılması, algoritmik önyargıların sosyal hayattaki yansımalarına bir örnek olarak gösterilmektedir. Benzer hatalar daha önce Robert Williams vakasında olduğu gibi kolluk kuvvetleri düzeyinde de yaşanmış ve hatalı tutuklamalara yol açmıştır.