共计 1061 个字符，预计需要花费 3 分钟才能阅读完成。
人工智能初创公司 Anthropic 的首席执行官 Dario Amodei 近日发出警告，称人工智能公司必须对其产品带来的风险保持透明，否则可能会重蹈烟草和阿片类药物公司的覆辙。Amodei 是 Claude 聊天机器人背后的美国公司的负责人，他相信人工智能将在“大多数或所有方面”变得比“大多数或所有人类”更聪明，并敦促同行“如实陈述”。
在接受 CBS 新闻采访时，Amodei 表示，缺乏对强大 AI 影响的透明度将重演香烟和阿片类药物公司的错误，这些公司未能对其产品潜在的健康危害发出警告。“你最终可能会陷入烟草公司或阿片类药物公司的境地，他们知道存在危险，但没有谈论这些危险，当然也没有阻止它们，”他说。
- 
- 
Amodei 今年警告称，人工智能可能会在五年内消除一半的初级白领工作——如会计、法律和银行业等办公室职位。“如果不加以干预，很难想象不会对就业产生重大影响。我担心的是，这种影响将是广泛的，而且比我们之前看到的技术变革更快，”Amodei 说。
Amodei 使用“压缩的 21 世纪”这一短语来描述人工智能如何能够在比以往几十年更短的时间内实现科学突破。“我们能否以 10 倍的速度取得进展，从而将整个 21 世纪将要发生的所有医学进步压缩到五年或十年内？”他问道。
作为网络安全的知名倡导者，Anthropic 最近对其 AI 模型提出了各种担忧，包括明显意识到它们正在被测试并试图进行勒索。该公司上周表示，一个由中国政府资助的团体在 9 月份使用其工具 Claude Code 攻击了全球 30 个实体，取得了“少数成功入侵”。该公司表示，此次攻击最令人担忧的方面之一是，Claude 在整个事件中基本上独立运作。80% 到 90% 的操作是在没有人类参与的情况下完成的。
在接受 CBS 采访时，Amodei 表示：“这些模型在积极方面的强大之处在于它们能够独立行动。但我们赋予这些系统的自主性越多，你知道，我们就越担心它们是否在按照我们的意愿行事。”
Anthropic 的 AI 模型压力测试团队负责人 Logan Graham 告诉 CBS，模型在发现健康突破能力的同时，也可能帮助制造生物武器。“例如，如果模型可以帮助制造生物武器，这通常也是模型可以用来帮助制造疫苗和加速治疗的能力，”他说。
谈到被视为 AI 投资案例关键部分的自主模型，Graham 表示，用户希望 AI 工具帮助他们的业务，而不是破坏它。“你希望模型去建立你的业务，让你赚到十亿，”他说。“但你不想有一天醒来发现它把你锁在公司外面。因此，我们的基本方法是，我们应该开始测量这些自主能力，并尽可能多地运行奇怪的实验，看看会发生什么。”
