共计 1039 个字符，预计需要花费 3 分钟才能阅读完成。
加州检察官办公室在至少一起刑事案件中使用人工智能提交了一份动议，该动议包含被称为“幻觉”的错误。
北加州内华达县地区检察官办公室的一名检察官“最近在准备一份文件时使用了人工智能，导致引用不准确，”地区检察官 Jesse Wilson 在向《萨克拉门托蜜蜂报》发表的声明中表示。“一旦发现错误，文件立即被撤回。”
辩护律师和民权律师认为，检察官办公室在其他刑事法庭文件中使用了人工智能。
10 月，Kyle Kjoller 的律师向第三区上诉法院提交了一份动议，要求对检察官在 Kjoller 案件文件中出现的多处错误进行制裁。Kjoller 由公设辩护人和非营利组织民权团体代表。
上诉法院未作解释就驳回了制裁请求。随后，Kjoller 的律师在检察官办公室提交的另一份文件中发现了类似的错误。辩护方再次提出上诉，但在 Kjoller 被定罪时被驳回。
Kjoller 的律师随后向加州最高法院提交了一份请愿书，指出他们所说的三起案件中存在生成式人工智能的典型错误。法院尚未决定是否受理此案。
“检察官依赖不准确的法律权威可能违反道德规则，并对刑事被告的正当程序权利和法院的合法性构成生存威胁，”Kjoller 的律师写道。他们的文件包括检察官简报中引用不存在的引文或误解法院裁决的实例——这些都是人工智能常见的错误。
周五，22 名学者、律师和刑事司法倡导者向加州最高法院提交了一份简报，支持 Kjoller 的案件。
在向《萨克拉门托蜜蜂报》发表的声明中，内华达县地区检察官办公室承认在其中一份文件中使用了人工智能，但并未在 Kjoller 的案件中使用。地区检察官 Wilson 表示，其他错误是由于人为失误造成的。
“检察官在繁重的工作量和时间限制下勤奋且诚信地工作，”Wilson 说。“现在不能假设每个引用错误都源于人工智能的使用。”
“从未有任何意图误导法院，任何相反的说法都是对事实的误解，”他补充道。在发现错误后，他表示，“办公室的所有律师都被提醒要独立核实所有法律引用，并且在未经可靠来源确认的情况下不要依赖人工智能生成的材料。”
在向《纽约时报》发表的声明中，他补充说，办公室已为员工进行了新的培训，并实施了人工智能政策。
加州案件可能是美国检察官办公室在法庭文件中使用生成式人工智能的首例。尽管加拿大、澳大利亚、英国和美国的律师因使用人工智能而被罚款，但这些案件通常不涉及检察官。根据《泰晤士报》的报道，巴黎高等商学院的研究人员维护了一个包含人工智能错误的法庭案件数据库。其中只有一起案件由检察官撰写，该案件在以色列提交。
