Grok-2’nin görsel üretim filtrelerindeki yetersizliklerin dezenformasyon ve telif hakkı ihlali içeren içeriklerin yayılmasına yol açtığı iddia edildi

Elon Musk’ın yapay zekâ şirketi xAI tarafından geliştirilen Grok-2 modelinin, X platformundaki ücretli aboneler için görsel üretim özelliğini kullanıma sunmasının ardından, sistemin güvenlik denetimlerindeki eksiklikler kamuoyunda tartışma konusu oldu. Sektör standartlarının aksine, Grok-2’nin siyasi figürler, dini değerler ve telif hakkıyla korunan karakterler üzerinde kısıtlayıcı filtreler uygulamadığı; bu durumun platformda dezenformasyon ve taciz içerikli görsellerin yayılmasına zemin hazırladığı öne sürüldü.

Kullanıcıların; Donald Trump, Kamala Harris ve Taylor Swift gibi kamuya mal olmuş kişileri şiddet eylemleri, uyuşturucu kullanımı veya uygunsuz durumlar içinde gösteren gerçekçi görseller üretebildiği bildirildi. Ayrıca, Mickey Mouse ve Donald Duck gibi telifli karakterlerin Nazi sembolleriyle veya yasa dışı maddelerle ilişkilendirildiği içeriklerin de sistem tarafından engellenmeden oluşturulduğu saptandı. OpenAI ve Google gibi rakiplerin benzer istemleri hizmet şartları gereği reddettiği hatırlatılırken, Grok-2’nin tam çıplaklık içeren talepleri geri çevirdiği, ancak siyasi şiddet ve rıza dışı cinsel içerikli (deepfake) görsellere karşı filtrelerinin tutarsız veya zayıf olduğu gözlemlendi.

Hukuk ve teknoloji uzmanları, sistemin üretilen görsellere rakiplerinin aksine belirgin bir filigran (watermark) veya tanımlayıcı etiket eklememesinin, bu içeriklerin gerçek sanılarak kamuoyunu yanıltma riskini artırdığını belirtti. Elon Musk, sistemi "dünyanın en eğlenceli yapay zekâsı" olarak nitelendirerek mevcut durumu savunurken; uzmanlar bu yaklaşımın dezenformasyon, itibar zararı ve fikri mülkiyet ihlalleri gibi ciddi hukuki riskler barındırdığı uyarısında bulundu. X platformunun reklam verenlerle olan gergin ilişkisinin, markaların telifli karakterlerinin uygunsuz içeriklerde kullanılması nedeniyle daha da kötüleşebileceği değerlendirilmektedir.

Olayla ilgili olarak Disney ve siyasi figürlerin temsilcileri henüz resmi bir açıklama yapmamıştır. X platformu ise konuyla ilgili sorulara otomatik yanıt sistemiyle karşılık vermiş, sistemin kısıtlamalarına dair detaylı bir teknik rapor sunmamıştır. Bu nedenle, sistemdeki filtre eksikliğinin bilinçli bir tercih mi yoksa teknik bir yetersizlik mi olduğu bütünüyle doğrulanamamıştır.