Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Amazon Alexa’nın ev içindeki özel bir konuşmayı kaydederek rehberdeki bir kişiye gönderdiği bildirildi
Portland’da bir ailenin özel konuşmalarının Amazon Alexa tarafından hatalı komut algılaması sonucu kaydedilip bir çalışana gönderildiği, Amazon’un durumu nadir bir teknik hata dizisi olarak nitelendirdiği bildirildi.
Olay
ABD’den Portland şehrinde yaşayan bir ailenin, evlerindeki Amazon Alexa destekli akıllı hoparlörün özel bir konuşmayı rıza dışı kaydederek rehberlerindeki bir kişiye gönderdiğini öne sürdüğü bildirildi. Olayın, ailenin Seattle’da yaşayan ve kocanın çalışanı olan bir kişinin kendilerini arayarak "cihazlarını hemen kapatmalarını, ev içindeki konuşma kayıtlarının kendisine ulaştığını" söylemesiyle ortaya çıktığı aktarıldı. Kaydı alan kişinin, ailenin ev içindeki parke zeminler hakkındaki sohbetini duyduğunu doğrulaması üzerine, kullanıcının mahremiyet ihlali gerekçesiyle tüm cihazları devre dışı bıraktığı belirtildi.
Amazon tarafından yapılan incelemede, sistem günlüklerinin (logs) olayı doğruladığı ifade edildi. Şirket mühendislerinin kullanıcıyla iletişime geçerek özür dilediği ancak olayın kapsamı veya yaygınlığı hakkında başlangıçta detaylı bilgi vermediği kaydedildi. Amazon sözcüsü tarafından yapılan resmi açıklamada, durumun "son derece nadir görülen bir olay" olduğu savunuldu.
Şirketin teknik değerlendirmesine göre hata, bir dizi düşük olasılıklı yanlış algılamanın ardışık gerçekleşmesiyle açıklanmıştır. Cihazın arka plandaki bir kelimeyi "Alexa" uyandırma komutu olarak algıladığı, ardından gelen konuşmaları "mesaj gönder" talimatı olarak yorumladığı öne sürülmüştür. Sistemin "Kime?" sorusuna ve isim onayına da yine arka plandaki konuşmaları rehberdeki bir isim ve "evet/doğru" onayı olarak eşleştirerek yanıt verdiği iddia edilmiştir. Kullanıcı ise cihazın bu süreçte normal şartlarda yapması gereken sesli geri bildirimleri veya uyarıları duymadığını savunmaktadır.
Olayın ardından Amazon, benzer durumların yaşanmaması için sistemde iyileştirmeler yapıldığını açıklamış ve kullanıcıya iletişim özelliklerini devre dışı bırakma seçeneği sunmuştur. Kullanıcının ise sisteme olan güveninin sarsıldığı ve cihazlar için iade talep ettiği ancak Amazon temsilcilerinin bu iadeyi yapmaya isteksiz olduğu bildirilmiştir.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?