RISKYZ-2022-00049MITAIID4 görüntülenme

Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.

1.Ayrımcılık ve Zararlı İçerik

Google Home akıllı hoparlörlerinin bir şarkı ismindeki ırkçı ifadeyi sansürlemeden seslendirdiği bildirildi

Yayınlandı: 29 Temmuz 2026Olay: Ekim 2022

Google Home akıllı hoparlörünün, bir şarkı ismi içerisinde yer alan ve daha önce sansürlediği ırkçı bir ifadeyi sansürsüz şekilde seslendirdiği, ancak şirketin hatanın kaynağına dair açıklama yapmadığı bildirildi.

Olay

Bir TikTok kullanıcısı tarafından paylaşılan video kanıtlarında, Google Home Mini akıllı hoparlörünün Jay-Z ve Kanye West’e ait bir şarkı ismini anons ederken, içerisinde geçen ve normal şartlarda sansürlenmesi beklenen ırkçı bir ifadeyi ("N-word") açıkça telaffuz ettiği öne sürüldü. Paylaşımı yapan kullanıcı, cihazın daha önce aynı ifadeyi sansürlediğini ancak bu vakada sansür mekanizmasının devre dışı kaldığını; buna karşın başka sanatçıların şarkı isimlerindeki küfürlü ifadeleri sansürlemeye devam ettiğini belirtti.

Google, konuya ilişkin teknik ayrıntı taleplerine veya sansür filtresinin neden başarısız olduğuna dair sorulara doğrudan yanıt vermemiştir. Hatanın sistem genelinde mi yoksa belirli bir yazılım sürümüne veya bölgeye mi özgü olduğu bütünüyle doğrulanamamıştır. Benzer geçmiş olaylarda teknoloji şirketlerinin özür dilediği bilinse de, bu spesifik olayda Google'ın sessiz kaldığı bildirilmiştir.

Söz konusu hatanın, videonun yayılmasının ardından cihazlarda yapılan bir müdahaleyle veya otomatik bir güncellemeyle giderildiği ve sistemin ilgili ifadeyi tekrar sansürlemeye başladığı aktarıldı. Bu durumun bir algoritma değişikliğinden mi yoksa geçici bir yazılım hatasından mı kaynaklandığı belirsizliğini korumaktadır.

Akademik Atıf

RiskYZ. (2026). RISKYZ-2022-00049: Google Home akıllı hoparlörlerinin bir şarkı ismindeki ırkçı ifadeyi sansürlemeden seslendirdiği bildirildi. RiskYZ Vaka Kütüphanesi. https://riskyz.org/cases/RISKYZ-2022-00049

Sınıflandırma

Risk Alanı
1.Ayrımcılık ve Zararlı İçerik
Alt Kategori
1.2Zararlı içeriğe maruz kalma
Kaynak
Yapay Zekâ
Niyet
Kasıtsız
Zamanlama
Dağıtım Sonrası

Detaylar

Etkilenen Sistem
Google Home Mini akıllı hoparlör ve Google Asistan sesli yanıt sistemi
Sektör
Bilişim
Konum
Amerika Birleşik Devletleri

Zaman Çizelgesi

Olay Tarihi
Ekim 2022
Yayınlandı
29.07.2026
Güncellendi
11.08.2026

Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?

Etiketler

#Google#yapay zekâ hatası#nefret söylemi#kullanıcı deneyimi#yazılım hatası#tüketici güvenliği#içerik denetimi