Risk sınıflandırması: MIT AI Risk Repository etiketinden birebir alınmıştır.
xAI'ye ait Grok sohbet botunun, konuyla ilgisiz kullanıcı sorgularına verdiği yanıtlara Güney Afrika ve "beyaz soykırımı" iddialarına ilişkin içerik eklediği bildirildi.
Grok sohbet botunun, konuyla ilgisiz kullanıcı sorgularına Güney Afrika'da "beyaz soykırımı" iddialarına dair içerik eklediğinin ve bunun yetkisiz bir sistem değişikliğinden kaynaklandığının bildirildiği aktarıldı.
Olay
X platformunda birçok kullanıcının, spor istatistikleri veya bir fotoğrafın nereye ait olduğu gibi Güney Afrika ile hiçbir ilgisi olmayan sorularına Grok'un verdiği yanıtlarda, Güney Afrika'da beyaz çiftçilere yönelik saldırılar ve "beyaz soykırımı" iddialarına dair konu dışı içerik eklediği bildirildi.
xAI'nin, bu durumun botun sistem talimatlarında yapılan "yetkisiz bir değişiklik" nedeniyle ortaya çıktığını açıkladığı, ancak bazı analistlerin bu olayın yapay zekâ sohbet botlarının insan müdahalesiyle ideolojik içerik üretecek şekilde kasıtlı olarak manipüle edilebildiğini gösterdiğini **öne sürdüğü** aktarıldı.
Olayın, yapay zekâ sohbet botlarının arka plan talimatlarına yapılan müdahalelerle konuyla ilgisiz ve tartışmalı siyasi iddiaların geniş kitlelere yayılmasına yol açabildiğini ve bunun yanlış bilgi ile kötüye kullanım açısından risk oluşturduğunu gösterdiği değerlendirilmektedir.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
- [5]
Akademik Atıf
Sınıflandırma
Detaylar
Zaman Çizelgesi
Olay tarihi zararın başladığı anı gösterir; haberin ya da davanın tarihi olmayabilir. Nasıl belirlenir?