Anthropic'in savunma avukatlarının, Concord Music - Anthropic davasında Claude'un ürettiği hatalı atıfları kullandığı bildirildi

Ko v. Li (2025 ONSC 2766) davasında, Ontario Yüksek Mahkemesi'nin, başvuran tarafın avukatı tarafından sunulan bir dilekçede çok sayıda hatalı veya var olmayan içtihat atfı tespit ettiği bildirildi. Yargıç F.L. Myers'ın, belgenin hazırlanmasında üretken yapay zekâ kullanılıp kullanılmadığını sorguladığı, atıfta bulunulan davaların ya ilgisiz olduğu, ya yanlış aktarıldığı ya da hiç var olmadığının belirtildiği aktarıldı.

Mahkemenin, avukata neden hakaret/adaleti hafife alma suçlamasıyla karşı karşıya kalmaması gerektiğini açıklamasını emrettiği, doğruluk ve teknolojik yeterlilik yükümlülüklerine atıfta bulunulduğu bildirildi. Avukatın, dilekçesinin yapay zekâ ile hazırlanıp hazırlanmadığı sorulduğunda, ofisinin bunu genellikle yapmadığını ancak katibiyle kontrol etmesi gerektiğini söylediği, atıfta bulunulan davalara ilişkin kaynak gösteremediği aktarıldı.

Olayın, hukuki belgelerin hazırlanmasında üretken yapay zekâ araçlarının yeterli insan denetimi olmadan kullanılmasının, mahkemelere var olmayan veya yanlış aktarılmış içtihatların sunulmasına yol açabileceğini ve bunun yapay zekâ sistem güvenliği ve yeterlilik eksikliği açısından önemli bir risk oluşturduğunu gösterdiği değerlendirilmektedir.