共计 2057 个字符，预计需要花费 6 分钟才能阅读完成。
筹集巨额资金，需有充分理由。
Anthropic 首席执行官 Dario Amodei 在上周五发表了一篇长达 14,000 字的文章，阐述了这一观点。在题为“爱的机器”的博客中，他设想了人工智能（AGI，他更倾向于称之为“强大的人工智能”）将如何以非凡的方式改变我们的生活。他预见了一个未来，AI 能在十年内实现百年的医学进步，治愈创伤后应激障碍和抑郁症等心理疾病，将意识上传至云端，并缓解贫困问题。与此同时，有报道称 Anthropic 希望以 400 亿美元的估值筹集新资金。
然而，今天的 AI 尚无法实现 Amodei 的设想。他承认，训练 AGI 模型需要数千亿美元，建立在价值数万亿美元的数据中心之上，并从本地电网中汲取足够的能源来为数百万家庭供电。更不用说没有人能百分之百确定这是否可能。Amodei 自己也承认：“当然，没有人能确切或精确地知道未来，强大的人工智能的影响可能比过去的技术变革更加不可预测，所以这一切不可避免地会包含猜测。”
在大型筹资活动之前，AI 高管们已经掌握了做出宏大承诺的艺术。以 OpenAI 的 Sam Altman 为例，他在“智能时代”博客中发表了惊人的 66 亿美元融资。在 Altman 的博客中，他声称世界将在“几千天内”拥有超级智能，这将带来“巨大的繁荣”。这是一种有说服力的表现：描绘一个乌托邦式的未来，暗示解决人类最深切的恐惧——死亡、饥饿、贫困——然后辩称，只有通过移除一些冗余的防护栏并注入前所未有的资本，我们才能实现这个技术天堂。这是一种巧妙的营销，利用了我们最大的希望和焦虑，同时巧妙地避开了需要具体证据的需求。
这篇博客的发布时机也突显了竞争的激烈程度。正如 Amodei 所指出的，一篇 14,000 字的乌托邦宣言对于 Anthropic 来说相当不合时宜。该公司是在 Amodei 和其他人因安全问题离开 OpenAI 后成立的，并且一直以冷静的风险评估而非梦幻的未来主义著称。这也是为什么该公司继续从 OpenAI 挖走安全研究人员的原因。即使在上周的文章中，他坚持认为 Anthropic 将优先讨论 AI 风险，而不是诱人的技术乌托邦愿景。
“科技巨头长期以来一直将他们的创新推销为拯救世界的解决方案。”
但安全并不是一个令人兴奋的推介主题，而且每天都有新的挑战者出现。OpenAI 联合创始人 Ilya Sutskever 已经启动了自己的 AI 实验室，而即将离职的 OpenAI 首席技术官 Mira Murati 据传也在筹备自己的创业项目。Amodei 的博客不仅仅是在推销他的愿景，更是在保持竞争力。
尽管他声称不喜欢夸大其词，但他花费了数千字描绘了一个 AI 可以重塑人类命运的未来（似乎与 Altman 在科技圈中传奇般的银舌演讲相匹配）。文章中只提到了一次对齐，即确保 AI 系统按照人类价值观运作，但没有提到安全。这种矛盾揭示了一个残酷的事实：在高风险的 AI 开发世界中，即使是那些对炒作持谨慎态度的人也不得不参与宏大承诺的游戏，以确保关键资金。
目前，这项技术的能力与 AI 领导者所设想的乌托邦之间存在着巨大的差距。这引发了许多合理的批评——如果 AI 甚至无法可靠地计算草莓这个词中的 R 的数量，它如何在几年内改变世界？AI 现在可靠地擅长的是自动化常规任务和分析庞大的数据集，以越来越精确地识别模式。这种优势已经在金融、医学和自动驾驶车辆等领域得到了应用。但尽管这些进步令人印象深刻，像 Amodei 所说的 AI 可能“结构性支持民主”这样的说法仍然显得过于乐观和过早。值得注意的是，AGI 的信徒认为他的博客文章有些过于温和（Amodei 在博客的脚注中预见到了这一点，写道他们应该“接触草地”）。
Amodei 的博客文章并不是为普通对 AI 感兴趣的读者准备的，也不是 AGI 未来的令人信服的路线图——AGI 在 AI 行业设想的形式中并不存在，也可能永远不会存在。这是对投资者的推介：支持 Anthropic，你不仅仅是在投资一家公司；你是在购买人类光明未来的股份。以不同程度的微妙方式，这是每一位 AI 高管——OpenAI 的 Altman、xAI 的 Elon Musk、Google 的 Sergey Brin——都在承诺的。加入他们的未来愿景，否则就会被抛在后面。
尽管 AI 具有新颖性，但科技巨头长期以来一直将他们的创新推销为拯救世界的解决方案。Mark Zuckerberg 曾将全球互联网推销为消除贫困的解决方案。Brin 曾声称 Google 可以“治愈死亡”。Musk 则将 SpaceX 的星际野心描绘为我们物种的终极备份计划（最近还将其作为投票支持 Donald Trump 的必要性）。但当投资者的资金有限时，利他主义是一场零和游戏。正如 Mike Judge 的《硅谷》中的一位科技大亨所说：“我不想生活在一个别人比我们做得更好的世界里。”
Amodei 显然意识到听起来过于夸张的风险。他写道：“谈论 AI 的所有惊人好处可能会让人觉得像宣传者，或者试图转移对负面影响的注意力。”但这并没有阻止他扮演自己的角色。
“这是一件超越的美的事物，”Amodei 在他的博客结尾写道。“我们有幸在其中扮演一个小角色。”
