Güney Afrika’da hukuk firmalarının mahkemeye yapay zekâ kaynaklı sahte emsal kararlar sunduğu bildirildi

Güney Afrika’da iki ayrı davada, hukuk firmalarının mahkemeye sundukları dilekçelerde yapay zekâ tarafından uydurulmuş (halüsinasyon) ve gerçekte var olmayan emsal kararlara atıfta bulundukları bildirildi. İlk olayda, Pietermaritzburg Yüksek Mahkemesi’nde görülen *Mavundla v MEC* davasında, Surendra Singh and Associates firması tarafından sunulan dokuz emsal karardan yedisinin hukuk veri tabanlarında bulunmadığı tespit edildi. Hakim Elsje-Marie Bezuidenhout, "Pieterse v The Public Protector" gibi kararların hiçbir resmi kayıtta yer almadığını belirterek durumu incelemeye aldı.

İlgili hukuk firmasında çalışan stajyer avukat, araştırmayı üniversite portalı üzerinden yaptığını belirterek yapay zekâ kullanımını reddetmiş olsa da; mahkeme, sunulan yanlış bilgilerin yapay zekâ halüsinasyonlarıyla örtüştüğünü ve büyük olasılıkla bu araçların kullanıldığını değerlendirdi. Hakim, sunduğu bir atıfı doğrulamak için ChatGPT üzerinden yaptığı kontrolde sistemin hatalı şekilde kararın varlığını onayladığını gözlemledi. Mahkeme, firmanın denetim eksikliği ve mahkemeyi yanıltma potansiyeli taşıyan bu eylemi nedeniyle ek yargılama giderlerinin firma tarafından ödenmesine ve konunun disiplin soruşturması için Hukuk Uygulama Konseyi’ne (LPC) sevk edilmesine karar verdi.

Benzer bir diğer olay, Gauteng Yüksek Mahkemesi’ndeki *Northbound Processing v Diamond and Precious Metals Regulator* davasında yaşandı. Bu vakada avukatlar, aciliyet ve iş yükü nedeniyle Güney Afrika mevzuatı üzerine eğitilmiş bir yapay zekâ platformu kullandıklarını ve sunulan sahte atıfların yapay zekâ halüsinasyonu olduğunu kabul ederek mahkemeden özür diledi. Ancak mahkeme, iyi niyet beyanına ve özre rağmen, sahte belgelerin adaletin işleyişine yönelik ciddi bir risk oluşturduğu gerekçesiyle bu vakayı da disiplin incelemesine sevk etti.

Güney Afrika mahkemeleri, bu kararlarla birlikte hukuk profesyonellerinin yapay zekâ çıktılarını doğrulamadan kullanmalarının mesleki etik ihlali teşkil ettiğini ve teknolojik yetersizliğin bir mazeret kabul edilmeyeceğini vurguladı. Kararlarda, İngiltere’deki "Ayinde ilkeleri"ne atıfta bulunularak, yapay zekâ kullanımında doğrulama sorumluluğunun tamamen hukuk uygulayıcısında olduğu hatırlatıldı.