Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Target’ın veri madenciliği yöntemleriyle bir lise öğrencisinin hamileliğini babasından önce tespit ettiği iddia edildi
Target’ın alışveriş verilerini analiz ederek bir lise öğrencisinin hamile olduğunu babasından önce belirlediği iddia edilmiş; bu durum algoritmik gözetim ve veri gizliliği konularında tartışmalara yol açmıştır.
Olay
Perakende zinciri Target’ın, müşterilerinin satın alma alışkanlıklarını analiz ederek bir lise öğrencisinin hamileliğini ailesinden önce tespit ettiği öne sürüldü. 2012 yılında New York Times'ta yayımlanan bir anekdota göre, şirketin istatistikçisi Andrew Pole tarafından geliştirilen sistem, müşterilere atanan "Konuk Kimliği" (Guest ID) üzerinden alışveriş verilerini takip ederek hamilelik durumunu öngördüğü iddia edildi. Sistemin; kokusuz losyon, magnezyum takviyesi ve büyük paketli pamuk gibi yaklaşık 25 ürünün birlikte satın alınma modellerini temel alarak bir "hamilelik tahmin puanı" oluşturduğu aktarıldı.
Olayın, Minneapolis yakınlarındaki bir mağazaya giden bir babanın, lise çağındaki kızına bebek kıyafetleri ve beşik kuponları gönderildiği gerekçesiyle şikâyette bulunmasıyla görünürlük kazandığı iddia edildi. Mağaza yönetiminin özür dilemesinin ardından, babanın birkaç gün sonra kızının gerçekten hamile olduğunu öğrendiğini belirterek şirketten özür dilediği bir çalışanın anlatımı olarak aktarıldı. Bu vaka, algoritmik sistemlerin kişisel hayatın mahrem detaylarını ortaya çıkarma kapasitesine dair temel bir örnek olarak literatüre geçmiştir.
Target’ın, bu tür analizlerin tüketicilerde oluşturduğu kaygıyı gidermek için hamilelik odaklı kuponları rastgele ürünlerle (çim biçme makinesi vb.) harmanlayarak sunduğu belirtildi. Ancak, söz konusu vakanın doğruluğu hakkında ciddi şüpheler bulunmaktadır. Veri bilimci Colin Fraser, olayın isimsiz bir çalışanın anlatımına dayandığını, kuponların gönderilmesinin sistemin başarısından ziyade rastlantısal bir pazarlama faaliyetinin sonucu olabileceğini ve tek bir başarılı örneğin sistemin genel isabet oranını kanıtlamayacağını savunmuştur.
Target, veri toplama süreçlerinin ayrıntılarını açıklamayı reddetmiş ve gazetecilerin şirket merkezine erişimini kısıtlamıştır. Bu nedenle, sistemin gerçek isabet oranı ve vakanın nedenselliği bağımsız kaynaklarca bütünüyle doğrulanamamıştır.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?