Google arama reklamlarının siyahilere özgü isimlerde suç kaydı sorgulama içeriklerini daha sık sunduğu iddia edildi

Harvard Üniversitesi'nden Profesör Latanya Sweeney tarafından yürütülen bir araştırma, Google'ın reklam sunum algoritmasında ırksal önyargı bulunduğuna dair bulgular ortaya koymuştur. Sweeney, "DeShawn", "Darnell" ve "Jermaine" gibi siyahilere özgü olduğu değerlendirilen isimler aratıldığında, sistemin "tutuklandı mı?" veya "sabıka kaydı" gibi ifadeler içeren reklamları gösterme olasılığının, beyazlara özgü isimlere kıyasla %25 daha fazla olduğunu saptamıştır. Araştırma kapsamında 2.000'den fazla isim incelenmiş; siyahilere özgü isimlerin bir web sitesinde %81-86, diğerinde ise %92-95 oranında suç kaydıyla ilişkilendirilen reklamları tetiklediği bildirilmiştir.

Olayın dikkat çekici bir boyutu, reklamların kişinin gerçek bir suç kaydı olup olmamasından bağımsız olarak sunulmasıdır. Örneğin, Profesör Sweeney kendi ismini arattığında "Latanya Sweeney, Tutuklandı mı?" şeklinde bir reklamla karşılaşmış, ancak ne kendisinin ne de aynı ismi taşıyan diğer kişilerin bir sabıka kaydı olduğu belirlenmiştir. Buna karşın, "Jill" veya "Geoffrey" gibi beyazlara özgü isimler için sunulan reklamların genellikle daha nötr olduğu (adres/telefon sorgulama gibi) ancak bazı durumlarda bu isimlerde de %60'a varan oranlarda "tutuklama" ifadesinin çıkabildiği gözlemlenmiştir.

Google yetkilileri, AdWords sisteminin ırksal profilleme yapmadığını, reklam metinlerinin seçimi ile anahtar kelime eşleşmelerinin reklamverenlerin sorumluluğunda olduğunu savunmuştur. Sweeney ve diğer yorumcular, bu durumun üç temel nedeni olabileceğini belirtmektedir: Algoritmanın kasıtsız bir hatası, kullanıcıların siyahilere özgü isimlerle birlikte suç içerikli reklamlara daha fazla tıklaması sonucunda sistemin bu davranışı "öğrenmiş" olması veya toplumdaki mevcut suç istatistiklerinin rasyonel bir yansıması.

Söz konusu bulgular, yapay zekâ destekli reklam sistemlerinin işe alım süreçleri veya sosyal güvenilirlik algısı üzerinde olumsuz etkiler yaratabileceği endişesini doğurmuştur. Ancak, önyargının doğrudan algoritmadan mı yoksa toplumsal tıklama verilerinden mi kaynaklandığı konusunda kesin bir yargıya varılamamıştır.