Brezilya İş Mahkemesine Sunulan Dilekçedeki Gizli Komutların Galileu Yapay Zekâ Sistemini Manipüle Etmeye Çalıştığı Bildirildi

Brezilya 4. Bölge İş Mahkemesi (TRT-RS) tarafından geliştirilen ve İş Yargısı Yüksek Konseyi (CSJT) tarafından ülke genelinde kullanıma sunulan Galileu adlı yapay zekâ sistemi, hukuki bir dilekçeye yerleştirilen prompt injection saldırısını tespit etti.

Olay, Pará eyaletindeki Parauapebas 3. İş Mahkemesi tarafından 12 Mayıs 2026 tarihinde işlenen bir başlangıç dilekçesinde meydana geldi. Sistem, belge içerisinde normal kullanıcılar tarafından görülmesi zor olacak şekilde gizlenmiş ve doğrudan yapay zekâ sistemine hitap eden talimatlar belirledi.

Gizli talimatların, Galileu’nun dilekçeyi yüzeysel biçimde değerlendirmesini ve kendisine verilen diğer komutlardan bağımsız olarak dilekçeye eklenen belgeleri sorgulamamasını sağlamayı amaçladığı bildirildi. Haricî bir içerik aracılığıyla yapay zekânın davranışını ve çıktısını değiştirmeye yönelik bu yöntem, prompt injection olarak tanımlanmaktadır.

Galileu, saldırıyı tespit ettikten sonra kullanıcıya teknik olayı belirten görünür bir uyarı sundu ve kötü niyetli komutların sistem tarafından işlenmesini engelledi. Sistem yalnızca teknik bulguyu raporladı; dilekçeyi sunan kişinin davranışı hakkında hukuki bir değerlendirme yapmadı ve uygulanabilecek usul işlemlerine ilişkin öneride bulunmadı.

Brezilya yargı düzenlemelerinde öngörülen insan denetimi ilkesi doğrultusunda Yargıç Luiz Carlos de Araújo Santos Junior, herhangi bir işlem gerçekleştirmeden önce sistemin tespit ettiği içeriği kendisi inceledi. Böylece yapay zekâ sisteminin tespiti otomatik bir yargısal karara dönüştürülmeden önce insan gözetimine tabi tutuldu.

Vaka, kamu kurumlarında kullanılan yapay zekâ sistemlerinin belge içerisine gizlenen kötü niyetli talimatlara karşı özel güvenlik önlemlerine sahip olması gerektiğini göstermektedir. Teknoloji yetkilileri, bu tür saldırıların tespit edilmesi ve kontrol altına alınmasının özel teknik yöntemler gerektirdiğini belirtti.