共计 597 个字符，预计需要花费 2 分钟才能阅读完成。
加州以其对监管问题的处理而闻名，如数据隐私和社交媒体内容审核，其最新目标是人工智能。该州立法机构最近通过了 SB 1047，这是美国首批也是最重要的治理人工智能系统的框架之一。该法案包含广泛的人工智能安全要求，旨在针对基于大量人类制造和合成数据训练的“基础”人工智能模型可能存在的生存风险。
SB 1047 引起了争议，Mozilla（表示担忧这会损害开源社区）；OpenAI（警告这可能阻碍人工智能行业的增长）；以及众议员 Nancy Pelosi（D-CA），她称其为“出于好意但信息不足”。但在某些条款被软化的修正案之后，它获得了其他方面的支持。Anthropic 认为该法案的“好处可能超过其成本”，而前谷歌人工智能负责人 Geoffrey Hinton 称之为“平衡风险和技术进步的明智方法”。
州长 Gavin Newsom 尚未表明是否将签署 SB 1047，因此该法案的未来尚不明朗。但最大的基础模型公司都位于加州，其通过将影响所有这些公司。
加州州议会和参议院已通过《前沿人工智能模型安全与安全创新法案》（SB 1047），这是美国首批重要的人工智能法规之一。该法案，在硅谷内外引发了广泛辩论，将要求在加州运营的人工智能公司在训练复杂的基础模型之前实施多项预防措施。这些措施包括使模型能够快速且完全关闭，确保模型免受“不安全的训练后修改”，并维持一个测试程序以评估模型或其衍生品是否特别容易“造成或促成重大伤害”。
