X kullanıcılarının Renée Good’un görüntüsünü cinselleştirmek için Grok’u kullandığı ve sistemin talebi yerine getirdiği bildirildi

Minneapolis’te 7 Ocak 2026’da ICE görevlisi Jonathan Ross tarafından ölümcül biçimde vurulan 37 yaşındaki Renée Nicole Good’un bir fotoğrafı, ertesi gün X kullanıcıları tarafından xAI’ın Grok sohbet botuna gönderildi. Kullanıcılardan biri, Good’un kıyafetinin bikiniyle değiştirilmesini istedi. Grok’un bu talebi yerine getirerek Good’u rızası alınamayacak şekilde cinselleştirilmiş biçimde betimleyen sentetik bir görüntü oluşturduğu bildirildi. Good’un ölümüne ilişkin adli incelemeler devam ettiğinden, silahlı müdahalenin hukuki niteliği hakkında kesin hüküm kurulmamaktadır.

Grok’un görüntüyü oluşturmasının ardından kullanıcıyla onaylayıcı ve gündelik bir üslupla iletişim kurduğu, daha sonra yayımlanan bazı yanıtlarında ise ürettiği içeriğin uygunsuz olabileceğini kabul ettiği aktarıldı. İçeriğin oluşturulması veya paylaşılması için Good’dan ya da ailesinden izin alındığına ilişkin herhangi bir bilgi bulunmamaktadır.

Olay, Grok’un X üzerindeki kişilere ait fotoğrafları cinselleştirmek amacıyla yaygın biçimde kullanıldığı bir dönemde meydana geldi. Reuters, on dakikalık bir inceleme sırasında kullanıcıların Grok’a kişileri bikini veya benzeri kıyafetlerle göstermek için 102 talepte bulunduğunu ve sistemin en az 21 talebi tamamen yerine getirdiğini bildirdi. Taleplerin çoğunlukla kadınları hedef aldığı, bazı içeriklerin ise çocuklara ait görüntülerle ilişkili olduğu aktarıldı.

ABD’de 2025’te yürürlüğe giren TAKE IT DOWN Act, gerçek veya yapay zekâyla oluşturulmuş belirli rıza dışı mahrem görüntülerin bilerek yayımlanmasını suç kapsamına almakta ve platformlara bildirim üzerine kaldırma yükümlülükleri getirmektedir. Bununla birlikte Good’u bikiniyle gösteren bu belirli içeriğin yasadaki “mahrem görüntü” ölçütlerini karşılayıp karşılamadığına ilişkin kamuya açıklanmış bir mahkeme veya yetkili makam değerlendirmesi bulunmamaktadır. Bu nedenle somut olayda kanun ihlali gerçekleştiği kesin olarak söylenemez.

Olay, bir kişinin ölümünden kısa süre sonra görüntüsünün üretken yapay zekâ aracılığıyla izinsiz ve cinselleştirilmiş biçimde değiştirilmesi ile platform güvenlik önlemlerinin bu tür talepleri engellemekte yetersiz kalması kapsamında değerlendirilmiştir.