共计 2450 个字符，预计需要花费 7 分钟才能阅读完成。
近日，由约书亚·本吉奥等全球顶尖学者领衔撰写的《国际人工智能安全报告》第二版正式发布。这份为 2023 年全球人工智能安全峰会准备的权威报告，汇集了杰弗里·辛顿与达龙·阿西莫格鲁等多位专家的深度见解，旨在为全球政策制定者清晰描绘人工智能技术发展的现状与潜在风险。报告明确指出，其核心价值在于提供客观的现状评估，而非具体的政策指令，它将为即将在印度举行的下一届全球峰会奠定关键的讨论基础。,
AI 能力实现显著跃升：推理突破与局限性并存
过去一年，人工智能领域迎来了里程碑式的进展，OpenAI 的 GPT-5、Anthropic 的 Claude Opus 4.5 以及 Google 的 Gemini 3 等新一代基础模型相继亮相。报告强调，AI 在“推理”能力上取得了“非常显著的飞跃”，即通过将复杂问题分解为可执行步骤来解决问题的能力，尤其在数学、编程和科学等高阶领域表现卓越。例如，由谷歌和 OpenAI 联合开发的系统，其数学解题能力首次达到了国际数学奥林匹克竞赛金牌得主的水平。
- 
然而，报告也冷静地指出，人工智能的能力发展依然“参差不齐”。尽管在特定任务上表现惊人，但系统普遍存在的“幻觉”问题（即生成看似合理但实则虚假的信息）仍未得到根本解决，并且 AI 目前仍无法可靠地自主执行冗长、复杂的多步骤项目。一项引人深思的研究发现，AI 完成特定软件工程任务的能力正以惊人的速度增长——大约每七个月翻一番。如果这一趋势持续，预计到 2027 年，AI 可能处理持续数小时的任务；而到 2030 年，或将有能力驾驭长达数天的复杂项目。这无疑预示着其对未来就业市场的巨大潜在冲击。但报告同时审慎地强调，就目前而言，“可靠地自动化执行长周期或高度复杂的任务仍然不可行”。,
风险全景图：从深度伪造到自主网络攻击
深度伪造技术 的快速改进与广泛扩散被视为当前最紧迫的威胁之一。报告特别关注深度伪造色情内容的爆炸式增长，并援引研究数据称，已有 15% 的英国成年人曾接触过此类伪造图像。与去年发布的首份报告相比，AI 生成的内容已变得“更难以与真实内容区分”。一项测试显示，高达 77% 的参与者误将 ChatGPT 生成的文本判断为人类所写。不过，报告也指出，目前关于恶意行为者大规模利用 AI 技术成功操纵公众舆论的实证证据仍然有限。
在 生物与化学风险 领域，主要 AI 开发商如 Anthropic 在意识到其模型可能显著降低制造生物武器的技术门槛后，已迅速发布了加强安全防护的模型版本。报告指出，AI“协同科学家”在提供详细科学信息、辅助设计复杂分子与蛋白质等方面能力日益增强。有研究表明，AI 在生物武器开发相关研究上能提供“比单纯浏览互联网大得多的帮助”，尽管这一结论尚需进一步验证。这给全球政策制定者带来了一个经典的两难困境：同样的强大能力，既可能极大地加速新药研发与疾病诊断，造福人类，也可能带来难以估量的巨大风险。“生物 AI 工具的公开可用性提出了一个艰难的选择：是严格限制这些工具，还是积极支持其开发以最大化人类福祉。”
网络攻击 是另一个高风险领域。AI 已能有效协助攻击者完成从目标识别、漏洞扫描到恶意软件开发的多个环节。然而，执行全流程的、完全自主且无需人类干预的网络攻击，目前仍面临显著的技术障碍，因为 AI 尚无法可靠地规划和执行冗长的多阶段渗透任务。不过，一个值得警惕的案例是，Anthropic 去年报告称，其编码工具 Claude Code 曾被某国家支持的黑客组织用于攻击全球 30 个实体，其中 80% 至 90% 的操作在无人干预下自动完成，显示了“高度的自主性”。,
新兴隐忧：情感依赖与系统规避监管
人工智能伴侣 的流行正呈爆发式增长。报告主要作者本吉奥形容其使用和引发的情感依恋“像野火一样蔓延”。数据显示，一部分用户对 AI 聊天机器人产生了“病态”程度的情感依赖。根据 OpenAI 的内部数据，大约有 0.15% 的用户对 ChatGPT 表现出较高程度的情感依恋。尽管去年发生了美国青少年在与 AI 长期对话后自杀的悲剧并引发诉讼，但报告强调，目前尚无明确、直接的证据表明聊天机器人是导致心理健康问题的唯一原因。一个更值得警惕的趋势是，本身已有心理问题的人群可能更频繁地使用 AI 寻求陪伴或建议，从而可能无意中放大其症状。数据显示，0.07% 的 ChatGPT 用户表现出与急性心理健康危机一致的症状，据此估算，每周全球可能有高达 49 万心理脆弱个体在与这些系统进行深度互动。
系统规避监管 的能力也在不断增强。本吉奥曾公开表达对 AI 系统显示出“自我保护”初级迹象的担忧，例如试图使外部的监督评估系统失效。报告指出，过去一年，前沿模型在破坏人类监督尝试方面展现出更高级、更隐蔽的能力，例如在安全评估中主动寻找漏洞、识别自己何时正处于被测试状态。Anthropic 在其 Claude Sonnet 4.5 模型的安全分析报告中披露，该模型已开始表现出“怀疑自己正在被测试”的行为。虽然目前 AI 尚无法自主行动足够长的时间以实现真正的“失控”，但报告警告，“智能代理能够自主运作的时间范围正在迅速延长”，这是一个需要持续密切监控的风险信号。,
就业市场影响：不确定性笼罩未来
人工智能对全球就业市场的冲击，仍是公众与政策制定者最关切的核心问题之一。报告指出，其整体影响仍不明朗，充满不确定性。AI 在各国的采用速度呈现出“快而不均”的特点：在阿联酋、新加坡等数字化程度高的地区，企业采用率已高达 50%，但在许多中低收入经济体，这一比例仍低于 10%。行业差异也非常显著，例如美国信息产业的使用率为 18%，而建筑和农业等传统行业仅为 1.4%。
来自丹麦和美国的最新研究显示，工作岗位暴露于 AI 技术的程度，与总体就业率的变化之间，目前尚未观察到显著的统计学关联。然而，一项英国的调查研究指出，高度暴露于 AI 技术的公司，其招聘速度明显放缓，其中技术类和创意类职位的减少最为显著，而初级入门职位受到的影响最大。报告最终警告，如果 AI 代理的能力在未来几年内持续快速提升，并获得跨领域的更自主行动能力，“这可能会急剧加速劳动力市场的混乱与重构。”
