共计 543 个字符，预计需要花费 2 分钟才能阅读完成。
OpenAI 和 Anthropic 已同意在发布前让美国政府访问主要的新 AI 模型，以帮助提高其安全性。这些公司与美国 AI 安全研究所签署了谅解备忘录，以在模型发布前后提供访问权限，该机构在 8 月 29 日宣布。政府表示，这一步骤将有助于他们共同评估安全风险并缓解潜在问题。美国机构表示，将与英国的对应机构合作，提供有关安全改进的反馈。
在联邦和州立法机构正在考虑在不扼杀创新的情况下对技术设置何种护栏的时候，共享 AI 模型是一个重要步骤。8 月 28 日，加利福尼亚州立法者通过了 《前沿人工智能模型安全与保障创新法案》（SB 1047），要求加利福尼亚州的 AI 公司在训练高级基础模型之前采取特定的安全措施。尽管该法案自那以后经历了一些变化，并且仍在等待州长 Gavin Newsom 的签署，但它已经引起了包括 OpenAI 和 Anthropic 在内的 AI 公司的反对，他们警告说这可能会损害较小的开源开发者。
与此同时，白宫一直在努力从主要公司获得有关 AI 安全措施的自愿承诺。几家领先的公司已经进入了非约束性承诺，投资于网络安全和歧视研究，并致力于为 AI 生成内容添加水印。
美国 AI 安全研究所主任 Elizabeth Kelly 在一份声明中表示，新的协议“只是开始，但它们是我们努力帮助负责任地引导 AI 未来时的一个重要里程碑。”
正文完
