Amazon Alexa’nın televizyondaki bir haber bültenini komut olarak algılayarak izinsiz alışveriş girişimlerini tetiklediği bildirildi

Ocak 2017’de ABD’nin Teksas eyaletinde, altı yaşındaki bir çocuğun Amazon Echo cihazına "Benimle oyuncak ev oynar mısın ve bana bir oyuncak ev alır mısın?" demesi üzerine, sistemin yaklaşık 170 ABD doları değerinde bir oyuncak ev ve yaklaşık iki kilogramlık şekerleme siparişi verdiği aktarıldı. Olayın yerel basına yansımasının ardından, San Diego merkezli CW6 kanalındaki bir haber bülteninde sunucu Jim Patton’ın "Küçük kızın 'Alexa bana bir oyuncak ev sipariş etti' demesine bayıldım" ifadesini kullandığı belirtildi.

Haber bülteninin yayımlanmasıyla birlikte, San Diego genelindeki pek çok izleyicinin evinde bulunan Alexa sistemlerinin, sunucunun sözlerini bir komut olarak algılayarak aktif hale geldiği bildirildi. Bazı izleyiciler, cihazlarının kendiliğinden oyuncak ev siparişi vermeye çalıştığına dair kanala şikayette bulundu. Olay, sesli komut sistemlerinin medya yayınlarındaki tetikleyici kelimeleri ayırt etmeksizin işleme koyma riskini gündeme getirdi.

Amazon tarafından yapılan açıklamada, televizyon yayınındaki ifadenin cihazları "uyandırmış" olabileceği kabul edildi. Ancak şirket, sesli alışverişte bir siparişin tamamlanması için kullanıcının "evet" diyerek ikincil bir onay vermesi gerektiğini, bu nedenle San Diego'daki olayda siparişlerin bütünüyle tamamlanmasının "neredeyse imkânsız" olduğunu savundu. Quartz gibi haber kaynakları da daha sonra haberi güncelleyerek, cihazların uyandığını ancak başarılı bir sipariş işleminin gerçekleşmediğini teyit etti.

Yaşanan bu olaylar, yapay zekâ destekli asistanların her an dinlemede olmasının yarattığı gizlilik risklerini ve doğrulama mekanizmalarını tartışmaya açtı. Amazon, bu tür durumların önlenmesi için kullanıcılara sesli satın alma özelliğini kapatmalarını veya dört haneli bir güvenlik kodu tanımlamalarını önermektedir.