Colorado’da bir avukatın ChatGPT tarafından üretilen sahte emsal kararları mahkemeye sunması nedeniyle meslekten uzaklaştırıldığı bildirildi

Colorado Springs’te görev yapan avukat Zachariah Crabill’in, bir hukuk davasında sunduğu dilekçede ChatGPT tarafından üretilen sahte emsal kararlara yer verdiği bildirildi. Mesleğinin ilk yıllarında olan Crabill’in, yoğun iş yükü ve teslim tarihleri nedeniyle araştırmasını hızlandırmak amacıyla üretken yapay zekâ sistemine başvurduğu; sistemin sunduğu bilgilerin doğruluğunu yeterince denetlemeden mahkemeye sunduğu aktarıldı.

Olayda ChatGPT’nin, Crabill’in savlarını desteklemek amacıyla mevcut olmayan veya içeriği uyuşmayan birçok dava atfı oluşturduğu (halüsinasyon) belirlendi. Örneğin, sistemin sunduğu 2014 tarihli "Gonzales v. Allstate Ins. Co." davasının gerçekte 2002 yılına ait olduğu ve dilekçedeki iddiadan farklı olarak bir sigorta poliçesi uyuşmazlığına ilişkin olduğu saptandı. Crabill’in başlangıçta mahkemedeki hataları bir hukuk stajyerine atfettiği, ancak daha sonra yapay zekâ kullandığını kabul eden bir beyanname sunduğu kaydedildi.

Söz konusu hataların fark edilmesi üzerine ilgili mahkeme hakiminin başvuruyu reddettiği ve avukat hakkında disiplin soruşturması başlattığı bildirildi. Crabill’in çalıştığı hukuk firmasından çıkarıldığı; Colorado Barosu tarafından ise "mahkemeye karşı dürüstlük yükümlülüğünü" ihlal ettiği gerekçesiyle bir yıl bir gün süreyle meslekten uzaklaştırma cezasına çarptırıldığı aktarıldı. Karara göre, Crabill'in 90 günlük uzaklaştırma süresini ve ardından gelen iki yıllık denetimli serbestlik sürecini başarıyla tamamlaması durumunda cezasının geri kalan kısmının affedileceği not edildi.

Crabill, Insider’a verdiği demeçte işten çıkarılma nedeninin yalnızca ChatGPT kullanımı olmadığını savunsa da, bu konuda detaylı bir açıklama yapmadı. Olay, hukuk sektöründe yapay zekâ araçlarının denetimsiz kullanımının etik ve profesyonel risklerini ortaya koyan önemli bir vaka olarak değerlendirilmektedir.