Gemini ve Grok’un Minab’daki Okul Saldırısına Ait Gerçek Mezarlık Fotoğrafını İlgisiz Afet Görüntüsü Olarak Yanlış Tanımladığı Bildirildi

İran’daki savaş sırasında Google’ın Gemini ve X platformunun Grok yapay zekâ sistemlerinin, ülkedeki çatışmalara ilişkin gerçek görüntüler hakkında hatalı doğrulama bilgileri sunduğu bildirildi.

Kullanıcılar, İran’ın Minab kentindeki toplu mezarları gösterdiği belirtilen bir fotoğrafın gerçekliğini Gemini ve Grok’a sordu. Her iki yapay zekâ sistemi de görüntünün sahte veya olayla ilgisiz olduğunu ileri sürdü.

Gemini, fotoğrafın Türkiye’de meydana gelen 2023 depreminin ardından çekildiğini iddia ederken Grok, görüntünün Endonezya’daki 2021 yılı COVID-19 definlerinden alındığını öne sürdü. Her iki sistemin de iddialarını güvenilir gösteren bir dille sunduğu, ancak gerçekte mevcut olmayan bağlantılar ve uydurma kaynaklar kullandığı belirtildi.

Araştırmacılar, fotoğrafı uydu görüntüleri ve farklı video kayıtlarıyla karşılaştırarak görüntünün Minab’daki olayla ilişkili gerçek bir fotoğraf olduğunu doğruladı. Böylece yapay zekâ sistemlerinin özgün bir savaş görüntüsünü yanlışlıkla başka ülke ve tarihlerde gerçekleşen olaylarla ilişkilendirdiği ortaya çıktı.

Olayın, İran’daki savaş sırasında yapay zekâ kaynaklı yanlış bilgilerin yaygınlaşmasına ilişkin daha geniş bir sorunun parçası olduğu belirtildi. Doğrulama kuruluşlarının değerlendirmelerine göre çatışmayla ilgili geniş çapta yayılan yanlış iddiaların yaklaşık yarısında yapay zekâ üretimi içeriklerin rol oynadığı bildirildi.

Kaynak açıklamasında ayrıca 2025 yılında gerçekleştirilen uluslararası bir araştırmanın, yapay zekâ tarafından oluşturulan özetlerin yaklaşık yüzde 50’sinde önemli kaynaklandırma veya doğruluk sorunları bulunduğunu; bu oranın Google Gemini arayüzünde yüzde 76’ya kadar yükseldiğini ortaya koyduğu aktarıldı.

Vaka, doğrulama amacıyla kullanılan yapay zekâ sistemlerinin güvenilir ve kesin bir üslupla yanlış bilgi üretmesinin araştırmacıların zaman kaybetmesine, gerçek savaş belgelerinin güvenilirliğinin zedelenmesine ve olası ağır insan hakları ihlallerinin inkâr edilmesine katkı sağlayabileceğini göstermektedir.