共计 590 个字符，预计需要花费 2 分钟才能阅读完成。
加利福尼亚州议会近日通过了一项全面的人工智能安全法案，名为《前沿人工智能模型安全与保障创新法案》（SB 1047），这一举措在美国人工智能监管领域具有重要意义。
该法案要求在加州运营的人工智能公司在其训练复杂的基础模型之前实施多项预防措施。这些措施包括能够快速完全关闭模型，确保模型免受“不安全的训练后修改”，并维持一个测试程序以评估模型或其衍生品是否特别容易“导致或促成重大伤害”。
法案的主要推动者，参议员 Scott Wiener 认为 SB 1047 是一个非常合理的法案，要求大型人工智能实验室做他们已经承诺要做的事情：测试他们的大型模型是否存在灾难性安全风险。他表示，该法案很好地校准了我们已知的人工智能可预见风险，值得被实施。
然而，该法案也遭到了一些批评，包括 OpenAI 和 Anthropic 等公司的反对，他们认为该法案过于关注灾难性伤害，可能不公平地损害小型开源人工智能开发者。此外，该法案经过修订，用民事处罚取代了潜在的刑事处罚，缩小了授予加州总检察长的执法权力，并调整了加入法案创建的“前沿模型委员会”的要求。
在州参议院对修订后的法案进行投票后，人工智能安全法案将提交给州长 Gavin Newsom，他将在 9 月底之前决定其命运。
这一法案的通过，不仅在硅谷内外引发了广泛辩论，也标志着加州在人工智能领域的监管迈出了重要一步。未来，该法案的实施效果及其对行业的影响，将成为关注的焦点。
正文完
