加州法庭近日發生了一起引人矚目的法律事件，涉及兩家律師事務所在法律文件中使用未經披露的人工智能生成材料，結果遭到了法官的嚴厲處罰。據悉，法官邁克爾·威爾納在對一起針對State Farm的民事訴訟進行裁決時，對兩家律所提交的補充法律文件表達了強烈的不滿，并最終決定對它們處以31,000美元的罰款。
威爾納法官在審閱文件時，對其中引用的某些法律案例產生了濃厚的興趣，然而，當他試圖進一步核實這些案例時，卻驚訝地發現它們根本不存在。這一發現讓法官感到十分震驚，并指出這種情況差點導致他在司法命令中引用了虛假的材料。他在判決書中嚴厲批評道：“任何一位合格的律師都不應將研究和寫作的任務外包給人工智能。”
根據法院的文件顯示，在這起民事訴訟中，原告的法律代表利用人工智能工具生成了補充文件的提綱。然而，當這份提綱被轉交給另一家知名律師事務所K&L Gates時，其中包含的AI生成的研究材料竟然全是虛假的。威爾納法官指出，兩家律所的律師或相關人員在提交文件前，顯然沒有對這些研究材料進行必要的核對或審查。
在審查文件的過程中，威爾納法官發現至少有兩個法律案例的引用是虛構的。在他向K&L Gates律所提出質疑后，該律所重新提交的文件中竟然又包含了更多虛構的引用和引文。這一發現讓法官更加憤怒，他要求律師們對此進行解釋。最終，律師們不得不承認，他們在法律研究過程中使用了人工智能工具，包括Google Gemini和Westlaw Precision中的法律研究工具CoCounsel。
這起事件并非個例。在此之前，已經發生過類似的情況。例如，前特朗普律師邁克爾·科恩就曾因誤解Google Gemini而在法律文件中引用了虛假的法院案件。另外，在針對哥倫比亞航空公司的訴訟中，也有律師在文件中包含了大量由ChatGPT生成的虛假案例。
