Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
Google Home akıllı hoparlörlerinin bir şarkı ismindeki ırkçı ifadeyi sansürlemeden seslendirdiği bildirildi
Google Home akıllı hoparlörünün, bir şarkı ismi içerisinde yer alan ve daha önce sansürlediği ırkçı bir ifadeyi sansürsüz şekilde seslendirdiği, ancak şirketin hatanın kaynağına dair açıklama yapmadığı bildirildi.
Olay
Bir TikTok kullanıcısı tarafından paylaşılan video kanıtlarında, Google Home Mini akıllı hoparlörünün Jay-Z ve Kanye West’e ait bir şarkı ismini anons ederken, içerisinde geçen ve normal şartlarda sansürlenmesi beklenen ırkçı bir ifadeyi ("N-word") açıkça telaffuz ettiği öne sürüldü. Paylaşımı yapan kullanıcı, cihazın daha önce aynı ifadeyi sansürlediğini ancak bu vakada sansür mekanizmasının devre dışı kaldığını; buna karşın başka sanatçıların şarkı isimlerindeki küfürlü ifadeleri sansürlemeye devam ettiğini belirtti.
Google, konuya ilişkin teknik ayrıntı taleplerine veya sansür filtresinin neden başarısız olduğuna dair sorulara doğrudan yanıt vermemiştir. Hatanın sistem genelinde mi yoksa belirli bir yazılım sürümüne veya bölgeye mi özgü olduğu bütünüyle doğrulanamamıştır. Benzer geçmiş olaylarda teknoloji şirketlerinin özür dilediği bilinse de, bu spesifik olayda Google'ın sessiz kaldığı bildirilmiştir.
Söz konusu hatanın, videonun yayılmasının ardından cihazlarda yapılan bir müdahaleyle veya otomatik bir güncellemeyle giderildiği ve sistemin ilgili ifadeyi tekrar sansürlemeye başladığı aktarıldı. Bu durumun bir algoritma değişikliğinden mi yoksa geçici bir yazılım hatasından mı kaynaklandığı belirsizliğini korumaktadır.
Kaynaklar & Kanıtlar
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?