Amazon’un öneri algoritmasının intihar girişimlerinde kullanılan ürünleri bir arada sunduğu ve bu durumun ölümlere zemin hazırladığı iddia edildi

Amazon’un e-ticaret platformunda gıda koruyucusu olarak satılan sodyum nitritin, intihar amacıyla kullanımına yönelik bir "kit" haline gelmesine algoritmanın katkıda bulunduğu öne sürüldü. New York Times tarafından yayımlanan araştırma ve hazırlanan hukuki şikayet dosyalarına göre, sistemin bu maddeyi satın alan kullanıcılara, intihar sürecinde yardımcı olabilecek diğer yan ürünleri (hassas tartı, kusma önleyici ilaçlar ve ilgili el kitapları) "birlikte alınanlar" (frequently bought together) kısmında otomatik olarak önerdiği bildirildi.

ABD'de son iki yıl içinde, aralarında reşit olmayan bireylerin de bulunduğu en az 10 kişinin bu maddeyi Amazon üzerinden satın alarak hayatına son verdiği aktarıldı. Hayatını kaybedenlerin yakınları ve diğer ilgili kişilerin, 2019 yılından itibaren Amazon’u ürün yorumları ve doğrudan başvurularla uyardığı; ancak şirketin bu uyarıları dikkate almadığı veya tehlikeye dikkat çeken kullanıcı yorumlarını sildiği iddia edildi. Özellikle 16 ve 17 yaşlarındaki gençlerin ölümleriyle ilgili olarak Amazon’a karşı "haksız ölüm" davaları açıldığı belirtildi.

Amazon yetkilileri, sodyum nitritin yasal bir gıda koruyucusu olduğunu ve ürünlerin kötüye kullanımından doğrudan sorumlu tutulamayacaklarını savunmuştur. Şirket, müşterilerin ürünleri üretici talimatlarına uygun kullanacağına güvendiklerini ifade etmiştir. Buna karşın, eBay'in 2019'da intihar vakaları raporları sonrası satışı yasakladığı, Etsy'nin ise 2020'de gerekçe belirtmeden benzer bir kısıtlamaya gittiği bilgisi paylaşıldı.

ABD Kongresi üyeleri, Amazon’dan algoritmanın işleyişi ve gelen şikayetlere verilen yanıtlar konusunda ayrıntılı bir açıklama talep etmiştir. Olayda algoritmanın doğrudan bir niyetle değil, veri odaklı ilişkilendirme sonucunda tehlikeli bir ürün kombinasyonunu "öneri" olarak sunduğu, ancak şirketin bu otomatik yönlendirmenin sonuçlarına dair yapılan uyarılara karşı yeterli önlemi almadığı değerlendirilmektedir.