Airbnb’nin kullanıcıları "güvenilirlik" puanına göre platformdan uzaklaştıran gizli bir algoritma kullandığı iddia edildi

Konaklama platformu Airbnb’nin, 2017 yılında bünyesine kattığı Trooly adlı girişimin teknolojisini kullanarak, kullanıcıların internetteki faaliyetlerini tarayan ve onlara bir "güvenilirlik" puanı atayan bir algoritma kullanıyor olabileceği öne sürüldü. Tüketici hakları savunucusu CHOICE ve Electronic Privacy Information Center (EPIC) gibi kuruluşların raporlarına göre bu sistemin; kullanıcıların sosyal medya hesaplarını, eğitim düzeylerini, istihdam geçmişlerini ve arkadaşlarının çevrimiçi faaliyetlerini analiz ederek bir risk profili oluşturma kapasitesi bulunmaktadır. Algoritmanın, narsisizm veya dürüstlük gibi kişilik özelliklerinin yanı sıra uyuşturucu kullanımı veya hukuk davalarına karışma gibi davranışsal eğilimleri de değerlendirdiği iddia edilmektedir.

Avustralya ve Yeni Zelanda’da yaşayan bazı kullanıcılar, geçmişte olumlu yorumlar almalarına rağmen hesaplarının kapatıldığını bildirdi. Emlak sektöründe çalışan Renae Macheda hiçbir gerekçe sunulmadan yasaklandığını belirtirken; Rick Andrews gibi bazı seks işçilerine ise hesaplarının "yetişkin hizmetleri reklamlarıyla bağlantılı olduğu" gerekçesiyle bildirim yapılmıştır. Uzmanlar, bu tür sistemlerin "bağlam dışı" verileri kullanarak bireyleri cezalandırmasının ayrımcılığa ve "sosyal puanlama" riskine yol açabileceği uyarısında bulundu.

EPIC, Airbnb’nin bu uygulamalarının şeffaf olmadığını savunarak ABD Federal Ticaret Komisyonu’na (FTC) şikâyette bulundu. Şikâyette, şirketin algoritmasının "olumsuz dil kullanımı" gibi muğlak kriterlere dayandığı belirtildi. Airbnb ise topluluk güvenliğinin öncelikleri olduğunu ve güvenlik önlemlerinin kullanıcıları korumak amacıyla tasarlandığını belirterek algoritmanın çalışma prensiplerine ilişkin ayrıntılı bilgi vermekten kaçındı.

Sistemin hangi ülkelerde tam kapasiteyle çalıştığı ve yasaklama kararlarının ne kadarının doğrudan algoritma çıktısına dayandığı bağımsız kaynaklarca bütünüyle doğrulanamamıştır. Airbnb’nin gizlilik politikasında yer alan "otomatik süreçlerin platforma erişimi kısıtlayabileceği" ifadesi, bu tür bir sistemin kullanımda olabileceğine dair en somut dayanak olarak değerlendirilmektedir.