Yapay zekâ ile oluşturulan sahte “kimlik tespiti” görselleri, yanlış hedef gösterme ve bireylere yönelik taciz risklerini ortaya koymuştur.

Minneapolis’te 37 yaşındaki Renee Good’un bir ABD Göçmenlik ve Gümrük Muhafaza görevlisi tarafından ölümcül biçimde vurulmasının ardından, X kullanıcıları olay görüntülerinde maske takan görevlinin yüzünü ortaya çıkarması için xAI’ın Grok sohbet botuna çeşitli komutlar verdi. Grok, maskenin altında gerçekte hangi yüz ayrıntılarının bulunduğunu belirleyememesine rağmen görevliyi maskesiz gösterdiği izlenimi veren sentetik görüntüler oluşturdu. Uzmanlar, bu tür işlemlerin mevcut görüntüyü güvenilir biçimde iyileştirmediğini, eksik yüz ayrıntılarını tahmine dayalı olarak ürettiğini belirtti.

Yapay zekâ üretimli görüntüler sosyal medyada dolaşıma girerken paylaşımlara “Steve Grove” adı eklendi. Ancak bu adın ilk olarak kim tarafından ve hangi gerekçeyle görüntülerle ilişkilendirildiği belirlenemedi. Yanlış iddia, olayla bağlantısı bulunmayan en az iki kişiye yöneldi. Missouri eyaletinin Springfield kentinde silah dükkânı işleten Steven Grove, Facebook sayfasının suçlayıcı ve saldırgan mesajlara maruz kaldığını bildirdi. Minnesota Star Tribune yayıncısı Steve Grove da yanlış biçimde görevli olarak gösterildi; gazete, durumu koordineli bir çevrim içi dezenformasyon faaliyeti olarak değerlendirdiğini açıkladı.

Yapay zekâ görüntülerinin yanlış adı doğrudan ürettiği doğrulanmadığından, Grok çıktıları ile “Steve Grove” iddiasının kaynağı arasında kesin bir nedensellik kurulamamaktadır. Bununla birlikte gerçeği yansıtmayan yüz görüntülerinin yanlış kimlik bilgisiyle birlikte yayılması, paylaşımların inandırıcılığını artırarak ilgisiz kişilere yönelik çevrim içi tacize ve kamuoyunda karışıklığa katkıda bulundu.

Görevlinin kimliği daha sonra gazeteciler tarafından mahkeme kayıtları ve geleneksel doğrulama yöntemleri kullanılarak Jonathan Ross olarak belirlendi. Ross’un Haziran 2025’te başka bir trafik müdahalesi sırasında bir araç tarafından sürüklendiğine ilişkin kayıtların bulunduğu bildirildi. Renee Good’un vurulmasına ilişkin resmî ve adli incelemeler devam ettiğinden, olayın hukuki sorumluluğu hakkında kesin hüküm kurulmamaktadır.