共计 950 个字符，预计需要花费 3 分钟才能阅读完成。
加利福尼亚法官 Michael Wilner 近日对两家律师事务所提出严厉批评，因它们在未事先披露的情况下使用了人工智能（AI）技术。法官在审查一份补充简报时，发现其中包含了“大量虚假、不准确和误导性的法律引用和引述”。在上周提交的裁决中，Wilner 法官对涉事律师事务所处以 31,000 美元的罚款，并强调“任何称职的律师都不应将研究和写作工作外包给 AI”。
法官 Wilner 在裁决中写道：“我阅读了他们的简报，被他们引用的权威所说服（或至少感到好奇），并查找了这些裁决以了解更多——结果发现它们根本不存在。”他进一步表示：“这很可怕。这几乎导致了更可怕的结果（从我的角度来看），即将这些虚假材料纳入司法命令中。”
- 
此案涉及一起针对 State Farm 的民事诉讼，原告的法律代表使用 AI 生成了补充简报的提纲。然而，这份提纲在被发送给另一家律师事务所 K &L Gates 时，包含了“虚假的 AI 生成研究”，后者将这些信息添加到简报中。法官 Wilner 指出：“两家律师事务所的律师或工作人员显然都没有在提交简报前检查或审查过这些研究。”
在审查简报时，法官 Wilner 发现“至少有两个引用的权威根本不存在”。在要求 K &L Gates 澄清后，该事务所重新提交了简报，法官 Wilner 表示，这份简报“包含了比最初两个错误更多的虚构引用和引述”。随后，他发布了一份“展示原因令”，导致律师们提供了确认使用 AI 的宣誓声明。创建提纲的律师承认使用了 Google Gemini，以及 Westlaw Precision 中的 AI 法律研究工具 CoCounsel。
这并不是律师首次在法庭上使用 AI 被抓到。前特朗普律师 Michael Cohen 在误将 Google Gemini（当时称为 Bard）视为“超级搜索引擎”而非 AI 聊天机器人后，在一份法律文件中引用了虚构的法庭案例。此外，一名法官还发现，起诉哥伦比亚航空公司的律师在他们的简报中包含了一系列由 ChatGPT 生成的虚假案例。
法官 Wilner 在裁决中写道：“最初未披露使用 AI 产品生成简报初稿的做法是完全错误的。并且在未披露其可疑的 AI 来源的情况下将这些材料发送给其他律师，实际上将这些专业人士置于危险之中。”
此事件再次引发了对 AI 在法律领域应用的广泛讨论，尤其是在确保法律文件的准确性和透明度方面。
