Amazon’un yüz tanıma teknolojisinin 28 ABD Kongre üyesini suçlu kayıtlarıyla hatalı şekilde eşleştirdiği bildirildi

Amerikan Sivil Özgürlükler Birliği (ACLU) tarafından gerçekleştirilen bir çalışmada, Amazon’un "Rekognition" adlı yüz tanıma sisteminin, 28 ABD Kongre üyesini daha önce suç işlemiş kişilerin sabıka fotoğraflarıyla hatalı bir şekilde eşleştirdiği açıklandı. Test kapsamında, 25.000 halka açık sabıka fotoğrafından oluşan bir veri tabanı oluşturulduğu ve mevcut tüm Temsilciler Meclisi ve Senato üyelerinin fotoğraflarının bu veri tabanında tarandığı belirtildi.

Analiz sonuçlarına göre, sistemin ürettiği hatalı eşleşmelerin orantısız bir şekilde beyaz olmayan kişileri etkilediği saptandı. Kongre üyelerinin yalnızca %20’si beyaz olmayan kişilerden oluşmasına rağmen, hatalı eşleşenlerin yaklaşık %40’ının bu gruptaki üyelerden oluştuğu bildirildi. Hatalı eşleşen isimler arasında sivil haklar savunucusu Temsilci John Lewis’in de bulunduğu kaydedildi.

ACLU, testin Amazon’un halka sunduğu standart ayarlar ve düşük bir maliyetle (12,33 ABD doları) gerçekleştirildiğini vurguladı. Kuruluş, bu sonuçların yüz tanıma teknolojisinin kolluk kuvvetleri tarafından kullanılmasının ciddi riskler barındırdığını; özellikle azınlık gruplara yönelik önyargıları pekiştirebileceğini ve masum kişilerin özgürlüğünü kısıtlayabilecek hatalı müdahalelere yol açabileceğini savundu.

Olayın ardından ACLU ve çeşitli sivil toplum kuruluşları, teknolojinin barındırdığı riskler ve doğruluk payı üzerindeki belirsizlikler nedeniyle, kolluk kuvvetlerinin yüz tanıma sistemlerini kullanımına yönelik bir moratoryum uygulanması çağrısında bulundu.