Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Apple’ın mağaza güvenlik sistemindeki hatalı kimlik eşleşmesinin bir gencin haksız yere tutuklanmasına yol açtığı iddia edildi
Ousmane Bah’ın kaybettiği kimlik bilgilerinin Apple’ın güvenlik kayıtlarında bir hırsızın görüntüsüyle hatalı eşleştirilmesi sonucu, gencin birden fazla eyalette haksız yere hırsızlıkla suçlandığı ve tutuklandığı iddia edildi.
Olay
New York’ta yaşayan 18 yaşındaki Ousmane Bah, Apple’ın mağazalarında kullandığı iddia edilen yüz tanıma sisteminin kendisini hatalı bir şekilde bir hırsızlık serisiyle ilişkilendirmesi sonucu haksız yere tutuklandığını öne sürerek 1 milyar dolarlık tazminat davası açtı. Bah, Kasım 2018’de New York’taki evinde sabah saatlerinde tutuklanmasına neden olan arama kararındaki fotoğrafın kendisine ait olmadığını, gerçek hırsızın fiziksel olarak kendisine benzemediğini ifade etti.
Dava dilekçesine göre olaylar dizisi, Bah’ın üzerinde fotoğraf bulunmayan geçici öğrenci sürücü belgesini kaybetmesiyle başladı. Bah’ın avukatı, bu belgenin kimliği belirsiz bir kişi tarafından Apple mağazalarında kimlik olarak sunulduğunu ve Apple’ın güvenlik sisteminin Bah’ın ismini hırsızın yüzüyle hatalı bir şekilde eşleştirdiğini öne sürdü. Bu durumun, gerçek failin (Mamadou Barrie) herhangi bir Apple mağazasına her girişinde sistemin Bah adına uyarı vermesine neden olduğu iddia edildi. Bah; New York, New Jersey, Massachusetts, Connecticut ve Delaware eyaletlerinde hırsızlıkla suçlanmış; Boston’daki hırsızlık sırasında Manhattan’da okul balosunda olduğunu kanıtlamasına rağmen hukuki süreçlerle karşı karşıya kalmıştır.
New York Polis Teşkilatı’ndan (NYPD) bir dedektif, mağaza güvenlik kameralarındaki failin Bah ile hiçbir benzerliği olmadığını tespit etmiştir. Failin yaklaşık 1,85 m (6'1"), Bah’ın ise 1,70 m (5'7") boyunda olduğu kayıtlara geçmiştir. İlgili dedektifin, Apple’ın hırsızları tespit etmek için yüz tanıma teknolojisi kullandığını belirttiği iddia edilse de; Apple söz konusu teknolojiyi mağazalarında kullanmadığını savunarak iddiaları kesin bir dille reddetmiştir. Davada ikinci davalı olarak yer alan güvenlik yüklenicisi Security Industry Specialists (SIS) şirketinin, görüntüleri mağaza dışında analiz ederken bu teknolojiyi kullanmış olabileceği ihtimali üzerinde durulmaktadır.
Olayın temelinde, bir bireyin kayıp kimlik bilgilerinin bir güvenlik veri tabanına hatalı bir şekilde işlenmesi ve bu verinin yeterli insan denetimi olmaksızın kolluk kuvvetlerine bildirilmesi yatmaktadır. Apple ve güvenlik ortağının, hırsızın kimliğiyle ilgili verileri doğrulamada ihmalkâr davrandığı, silindiği iddia edilen kanıt videolarının daha sonra ortaya çıktığı ve bu hatalı veri eşleşmesinin Bah’ın eğitim hayatı ile itibarında ciddi zarara yol açtığı öne sürülmektedir.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
- [6]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?