Victoria Yüksek Mahkemesine sunulan yapay zekâ destekli savunma metninde uydurma alıntı ve dava atıfları bulundu

Avustralya’nın Victoria eyaletinde, cinayetle suçlanan reşit olmayan bir sanığın avukatları tarafından Yüksek Mahkemeye sunulan yazılı beyanlarda yapay zekâ tarafından oluşturulduğu açıklanan uydurma alıntılar ve mevcut olmayan yargı kararları bulundu. Savunma ekibine liderlik eden King’s Counsel unvanlı Rishi Nathwani, 13 Ağustos 2025 tarihinde Yargıç James Elliott’tan özür dileyerek hataların sorumluluğunu üstlendi.

Hatalı metinde, Victoria Parlamentosunda yapıldığı ileri sürülen bir konuşmadan gerçek olmayan ifadeler aktarıldı ve Victoria Yüksek Mahkemesine aitmiş gibi gösterilen, gerçekte mevcut olmayan dava kararlarına atıf yapıldı. Yargıcın yardımcıları belirtilen kararları bulamayınca savunma ekibinden kararların kopyalarını istedi. Avukatlar daha sonra atıfların mevcut olmadığını ve metinde kurgusal alıntılar bulunduğunu kabul etti.

Savunma ekibi, ilk atıflardan bazılarını kontrol ettiklerini ancak kalan bilgilerin de doğru olduğunu hatalı biçimde varsaydıklarını açıkladı. Belgeler savcılığa da iletilmiş, ancak savcılık makamı da tüm kaynakları bağımsız olarak doğrulamadan kendi beyanlarını bu metinlere dayandırmıştı. Kullanılan üretken yapay zekâ sisteminin adı mahkeme kayıtlarında açıklanmadı.

Yanlışlıkların düzeltilmesi ve yeni belgelerin hazırlanması, davanın sonuçlandırılmasını yaklaşık 24 saat geciktirdi. Mahkeme ertesi gün, kimliği yaşı nedeniyle açıklanmayan sanığın zihinsel bozukluk gerekçesiyle cinayet suçundan sorumlu olmadığına karar verdi. Yapay zekâ kaynaklı hatalar davanın esasına ilişkin nihai kararı değiştirmemiş olsa da yargılama sürecinde gecikmeye ve belgelerin güvenilirliğinin sorgulanmasına neden oldu.

Yargıç Elliott, mahkemenin avukatlar tarafından sunulan bilgilerin doğruluğuna güvenebilmesinin adaletin işleyişi açısından temel öneme sahip olduğunu belirtti. Victoria Yüksek Mahkemesinin daha önce yayımladığı yönergeleri hatırlatarak, yapay zekâ kullanımından elde edilen içeriklerin bağımsız ve kapsamlı biçimde doğrulanmadan mahkemeye sunulmasının kabul edilemez olduğunu ifade etti.