共计 656 个字符，预计需要花费 2 分钟才能阅读完成。
近日，纽约法庭发生了一起引人注目的事件：一位企业家在法庭上使用 AI 生成的“律师”进行陈述，结果遭到法官的严厉批评。
74 岁的 Jerome Dewald 是一家声称“用 AI 彻底改变法律自我代理”的初创公司的幕后人物。在 3 月 26 日的一场就业纠纷听证会上，Dewald 提交了一段视频，但未告知法官其口头陈述是由 AI 生成的。当屏幕上出现一个明显不是 Dewald 的未知发言人时，法官 Sallie Manzanet-Daniels 感到困惑。
“等一下，”Manzanet-Daniels 在头像刚说完第一句话后打断了视频，“这是本案的律师吗？”
“这是我生成的，”Dewald 回答道，“这不是真人。”
Dewald 告诉《The Register》，这个名为 Jim 的头像 —— 一个“高大、英俊的家伙”—— 是由一家名为 Tavus 的 AI 头像公司提供的库存选项之一。Dewald 表示，由于他在长时间讲话时遇到困难，因此提交了视频，但法庭并不知道视频内容是由人工生成的。
“在你提交申请时，如果能知道这一点就好了。你没有告诉我，先生，我不喜欢被误导。”Manzanet-Daniels 回应 Dewald 的承认时说，“你不能将法庭作为你业务的启动平台。”
这是人们在尝试将法律程序与 AI 技术混合时发生的几起失误中的最新一起。2023 年，两名律师和一家律师事务所因提交由 ChatGPT 编造的虚构法律研究而受到处罚。今年 2 月，“机器人律师”公司 DoNotPay 也被命令向 FTC 支付 193,000 美元的和解金，因其在没有证据的情况下宣传其 AI 法律代理与真人律师一样好。
