X platformunun yapay zekâ sohbet botu Grok’un İran’ın İsrail’e saldırdığına dair sahte bir haber başlığı oluşturduğu ve sistemin bu içeriği öne çıkardığı bildirildi

4 Nisan 2024 tarihinde, X platformunun yenilenen "Explore" (Keşfet) bölümünde "İran, Tel Aviv'i Ağır Füzelerle Vurdu" şeklinde sahte bir haber başlığının öne çıkarıldığı gözlemlendi. Söz konusu başlığın ve beraberindeki haber özetinin, platformun resmî yapay zekâ sohbet botu Grok tarafından otomatik olarak oluşturulduğu aktarıldı. Olayın yaşandığı dönemde İsrail'in İran'ın Suriye'deki büyükelçiliğine düzenlediği saldırı nedeniyle bölgesel gerilimin yüksek olduğu, ancak iddia edilen füze saldırısının gerçekleşmediği ve haberin tamamen asılsız olduğu belirtildi.

Mashable tarafından yapılan incelemeler, sahte haberin yayılmasında "mavi tik" sahibi onaylı hesapların koordineli bir şekilde paylaştığı dezenformasyon içerikli gönderilerin etkili olduğunu ortaya koydu. X algoritmasının bu gönderilerdeki anahtar kelimeleri bir trend olarak algıladığı, Grok’un ise bu verileri kullanarak gerçek bir haber gibi görünen bir özet ve başlık kurguladığı anlaşıldı. Platformun daha önce insan editörler tarafından yürütülen içerik kürasyonu sürecini otomatize etmesinin, sistemin yanlış bilgileri yeterli doğrulama yapmadan yaymasına sebebiyet verdiği değerlendirilmektedir.

X platformu, Explore sayfalarında yer alan küçük bir uyarı notunda Grok’un henüz erken aşamada bir özellik olduğunu ve hata yapabileceğini belirterek kullanıcılara çıktıları doğrulama tavsiyesinde bulunmaktadır. Ancak bu olayda, sistemin sahte bir içeriği doğrudan ana sayfada ve "Haberler" sekmesinde sunması, yapay zekâ destekli içerik özetleme süreçlerindeki riskleri gündeme getirmiştir. Olayın hemen ardından Grok'un tüm Premium abonelere açılması, benzer dezenformasyon risklerine dair endişeleri artırmıştır.