Amazon Alexa’nın çocukların taleplerini yanlış anlayarak müstehcen içerik sunduğu ve kontrolsüz alışveriş işlemlerini tetiklediği bildirildi

2016 yılının sonu ve 2017 yılının başında, Amazon’un sesli asistanı Alexa’nın çocuklarla etkileşimi sırasında güvenlik ve içerik filtreleme sorunları yaşandığı rapor edildi. Sosyal medyada paylaşılan bir videoda, William adındaki bir çocuğun Echo Dot cihazından "Digger Digger" adlı çocuk şarkısını çalmasını istediği; ancak sistemin bu talebi yanlış anlayarak Spotify üzerinde yer alan ve başlığında çok sayıda müstehcen ifade barındıran bir "şaka zil sesini" sesli olarak okumaya başladığı görüldü. Amazon yetkilileri olaydan sonra aileden özür dileyerek, sorunun giderildiğini ve benzer durumların tekrarlanmaması için ek kısıtlamalar üzerinde çalışıldığını açıkladı.

Aynı dönemde, sesli asistanın yetkisiz işlem yapma kapasitesine dair başka vakalar da kaydedildi. Dallas’ta yaşayan altı yaşındaki bir çocuğun Alexa ile bir oyuncak ev ve kurabiye hakkında konuşmasının sistem tarafından satın alma emri olarak algılandığı; bunun sonucunda yaklaşık 160-200 ABD doları tutarında bir sipariş oluşturulduğu bildirildi. Olayın San Diego’daki CW6 News kanalında haberleştirilmesi sırasında, haber spikeri Jim Patton’ın çocuğun sözlerini canlı yayında tekrarlamasının, yayını izleyen bazı izleyicilerin evindeki Alexa cihazlarını da tetikleyerek oyuncak ev siparişi girişimlerine yol açtığı aktarıldı. Ancak bu televizyon tetiklemesiyle oluşan siparişlerin gerçekleştiği doğrulanmadı.

Bu vakalar, sesli asistan teknolojilerinin erken dönemlerinde ses tanıma hatalarının kullanıcı deneyimi üzerindeki etkilerini ortaya koymuştur. Özellikle televizyon yayını gibi dış ses kaynaklarının sistem tarafından komut olarak algılanması, güvenlik risklerini tartışmaya açmıştır. Amazon, bu tür finansal işlemlerin önlenmesi için kullanıcılara PIN kodu koruması gibi güvenlik önlemlerini etkinleştirmeleri tavsiyesinde bulunmuştur.