Binnall Law Group avukatının mahkeme dilekçesinde Anthropic’in Claude sistemi tarafından üretilen sahte alıntılara yer verdiği bildirildi

Binnall Law Group bünyesinde çalışan avukat Jason Greaves’in, Trump yönetimi dönemindeki kamu personeli işten çıkarmalarıyla ilgili bir davada mahkemeye sunduğu dilekçede, yapay zekâ tarafından üretilmiş "hayali" (phantom) alıntılara yer verdiği bildirildi. Greaves’in, dilekçenin ilk taslağını hazırlamak için Anthropic firmasına ait Claude Console sistemini kullandığı, ancak sistemin ürettiği sonuçları yeterli düzeyde doğrulamadığı aktarıldı.

Olay, ABD Bölge Yargıcı Susan Illston’ın sunulan dilekçedeki bazı atıfların ilgili davalarda bulunmadığını fark ederek durumu "endişe verici" olarak nitelendirmesiyle ortaya çıktı. Avukat Greaves, mahkemeye sunduğu yeminli beyanda, dilekçeyi imzalayan ve denetleyen ortak olarak hatalı atıfların sorumluluğunu tamamen üstlenerek özür diledi; hatanın kısıtlı zaman baskısı altında yapılan yetersiz incelemeden kaynaklandığını belirtti. Hukuk firmasının yönetici ortağı Jesse Binnall ise durumu "kabul edilemez, mazeretsiz ve firma için utanç verici" olarak tanımladı.

Kaynaklarda, firmanın normal şartlarda yapay zekâ araçlarının kullanımını kısıtlayan ve Westlaw veya LexisNexis gibi geleneksel platformların kullanımını gerektiren politikalara sahip olduğu, ancak bu olayda ilgili prosedürlerin ihlal edildiği belirtilmektedir. Firmanın gelecekte benzer hataların önlenmesi amacıyla ek eğitimler ve ilave güvenlik önlemleri uygulama kararı aldığı bildirildi.