Grok’un Donald Trump’a yönelik suikast girişimi sırasında dezenformasyon içeren haber başlıkları ve özetleri sunduğu bildirildi

Elon Musk’ın sahibi olduğu X platformunda yer alan yapay zekâ modeli Grok’un, eski ABD Başkanı Donald Trump’a yönelik suikast girişimi sonrasında platformdaki paylaşımları yanlış yorumlayarak hatalı haber başlıkları ve özetleri oluşturduğu öne sürüldü. Sistemin, kullanıcıların ironi, şaka veya yanlış bilgi içeren paylaşımlarını gerçek haber gibi sunduğu ve bu durumun kriz anında bilgi kirliliğine yol açtığı iddia edildi.

Grok tarafından üretilen hatalı içerikler arasında, Başkan Yardımcısı Kamala Harris’in vurulduğuna dair bir başlığın yer aldığı aktarıldı. Bu hatanın, Başkan Biden’ın daha önce Trump ve Harris’in isimlerini karıştırdığı bir olaya atıfta bulunan alaycı paylaşımlardan kaynaklanmış olabileceği değerlendirildi. Ayrıca sistemin, saldırganın kimliği konusunda yanlış bir isim verdiği ve bu kişinin bir "Antifa" üyesi olduğuna dair iddiaları içeren bir özet sunduğu bildirildi. Bir diğer örnekte ise Trump’ın "Evde Tek Başına 2" filmindeki kısa rolüne atıfla "Evde Tek Başına 2 Aktörü Vuruldu mu?" şeklinde, bağlamdan kopuk ve kafa karıştırıcı bir başlık oluşturulduğu kaydedildi.

Elon Musk, Grok’un milyonlarca kullanıcının girdilerini gerçek zamanlı olarak özetleme yeteneğini "yeni bir haber modeli" olarak savunurken; eski bir Facebook kamu politikası direktörü olan Katie Harbath gibi isimler, sıcak gelişme anlarında yapay zekânın olgular henüz bilinmiyorken bağlam sağlamak için insan yardımına ihtiyaç duyduğunu belirtti. Grok’un sunduğu özetlerin altında "Bu hikâye X’teki paylaşımların bir özetidir ve zamanla değişebilir. Grok hata yapabilir, çıktıları doğrulayın" şeklinde bir feragatname bulunduğu, ancak sistemin tasarım gereği benimsenen "mizahi tonunun" kriz anlarında dezenformasyon riskini artırdığı ifade edildi.

X platformu konuya ilişkin resmi bir açıklama yapmazken, Grok’un daha önce de Haziran ayındaki başkanlık tartışmasına katılmayan Gavin Newsom’ın "tartışmayı kazandığına" dair hatalı bir başlık ürettiği hatırlatıldı. Olay, üretken yapay zekâ sistemlerinin denetimsiz bir şekilde doğrudan haber kaynağı olarak kullanılmasının kamuoyunu yanıltma potansiyeline dair riskleri örneklendirmektedir.