共计 903 个字符，预计需要花费 3 分钟才能阅读完成。
在联合国大会第 80 届高级别会议召开前夕，200 多位前国家元首、外交官、诺贝尔奖得主及人工智能领域专家联名签署《全球 AI 红线倡议》，呼吁各国政府就人工智能的使用边界达成国际协议。该倡议由法国 AI 安全中心（CeSIA）、未来社会（The Future Society）和加州大学伯克利分校人类兼容人工智能中心共同发起。
倡议提出，各国应在 2026 年底前就人工智能的“红线”达成政治协议，包括禁止 AI 冒充人类或自我复制等行为。签署者包括英裔加拿大计算机科学家、2018 年图灵奖得主 Geoffrey Hinton，OpenAI 联合创始人 Wojciech Zaremba，Anthropic 首席信息安全官 Jason Clinton 等业界知名人士。
“我们的目标不是在重大事件发生后做出反应，而是在大规模、潜在不可逆的风险发生之前进行预防，”法国 AI 安全中心执行主任 Charbel-Raphaël Segerie 在记者会上表示。“如果各国尚未就 AI 的使用目标达成一致，至少应就 AI 绝不能做的事情达成共识。”
当前，部分地区已经建立了 AI 使用规范。例如，欧盟的《人工智能法案》禁止某些被视为“不可接受”的 AI 使用，中美两国也达成协议，确保核武器始终由人类而非 AI 控制。然而，全球范围内仍缺乏统一标准。
“仅靠‘自愿承诺’是不够的，”未来社会全球 AI 治理主任 Niki Iliadis 指出。她强调，AI 公司内部制定的负责任扩展政策“无法真正执行”，最终需要一个独立的全球机构“拥有实权”来定义、监督和执行这些红线。
加州大学伯克利分校计算机科学教授、著名 AI 研究员 Stuart Russell 在记者会上表示：“正如核电开发商在知道如何防止核电站爆炸之前不会建造核电站一样，AI 行业必须选择一条不同的技术路径，从一开始就构建安全性。”他同时驳斥了 AI 监管会阻碍经济发展的观点：“你可以在不开发我们无法控制的通用人工智能（AGI）的情况下，利用 AI 促进经济发展。”
诺贝尔和平奖得主 Maria Ressa 在大会开幕致辞中特别提到该倡议，呼吁“通过全球问责结束科技巨头的豁免权”。随着人工智能技术的快速发展，制定全球统一的 AI 使用规范已成为国际社会的当务之急。
