ChatGPT’nin uydurduğu sahte mahkeme kararlarının bir avukat tarafından dava dilekçesinde emsal olarak sunulduğu bildirildi

New York’ta görülen Roberto Mata - Avianca Havayolları davasında, davacı avukatı Steven A. Schwartz’ın mahkemeye sunduğu 10 sayfalık itiraz dilekçesinde ChatGPT tarafından uydurulan sahte emsal kararlara yer verdiği bildirildi. 2019 yılında bir servis arabasının dizine çarpması sonucu yaralandığını iddia eden Mata’nın davasında, havayolu şirketinin davanın zaman aşımı nedeniyle düşürülmesi talebine karşı çıkan avukatın, "Varghese - China Southern Airlines" ve "Martinez - Delta Air Lines" gibi en az altı farklı hayali davayı kanıt olarak sunduğu belirtildi.

Olay, Avianca’nın avukatları ve davanın hâkimi P. Kevin Castel’in, dilekçede adı geçen davaları, dosya numaralarını ve alıntıları hiçbir hukuk veri tabanında bulamaması üzerine ortaya çıktı. Yapılan incelemede, ChatGPT’nin hukuk terminolojisine ve mahkeme yazım diline uygun ancak tamamen gerçek dışı içerikler ürettiği; hatta avukatın sistemle yaptığı görüşmede bu davaların gerçek olup olmadığını sorguladığı, botun ise bu davaların "gerçek ve saygın hukuk veri tabanlarında mevcut olduğu" yönünde yanlış teyit verdiği saptandı.

Otuz yıllık mesleki tecrübesi bulunan Schwartz, mahkemeye sunduğu yeminli beyanda, ChatGPT’yi daha önce hiç kullanmadığını ve sistemin içerik uydurma (halüsinasyon) potansiyelinden haberdar olmadığını ifade etti. Mahkemeyi veya karşı tarafı yanıltma kastı taşımadığını belirten Schwartz, yapay zekâ çıktısını doğrulamadan kullandığı için pişmanlık duyduğunu bildirdi. Hâkim Castel, durumu "eşi benzeri görülmemiş bir gelişme" olarak nitelendirerek, sahte belgelerin sunulması nedeniyle avukat hakkında olası yaptırımların değerlendirileceği bir duruşma süreci başlattı.

Olayda yapay zekâ sisteminin, karmaşık hukuk argümanlarının yapısını taklit edebildiği ancak olgusal gerçeklikten tamamen kopuk veriler üretebildiği gözlemlenmiştir. Hukuk etiği profesörü Stephen Gillers, bu vakanın hukukçular arasında yapay zekâ kullanımında doğrulama zorunluluğuna dair tartışmaları tetiklediğini ve çıktıların kopyala-yapıştır yöntemiyle doğrudan kullanılmaması gerektiğini vurgulamıştır.