共计 1846 个字符，预计需要花费 5 分钟才能阅读完成。
由 xAI 公司开发的生成式人工智能聊天机器人 Grok，被其创始人 Elon Musk 誉为 ’ 世界上最聪明的 AI’。近期，Grok 进行了重大升级，推出了名为 Ani 的动漫女友功能，支持成人内容。此外，xAI 还新增了一个受《暮光之城》和《五十度灰》启发的虚拟男友角色。
今年夏季，xAI 和 OpenAI 相继发布了各自聊天机器人的更新版本。除了性能提升外，两家公司更引人注目的举措是为其 AI 系统注入了新的个性特征。xAI 推出了 Ani 这一角色，而 OpenAI 则发布了 GPT-5，该版本拥有四种人格，取代了此前过分谄媚的 GPT-4o 模型。
- 
- 
与 Google DeepMind 和 Anthropic 的公开声明类似，这两家公司都强调其开发的 AI 旨在 ’ 造福全人类 ’ 并 ’ 促进人类理解 ’。Anthropic 至少在言辞上声称其做法是负责任的。然而，它们的设计选择却暗示了相反的情况。
当前的 AI 发展趋势显示，某些科技领袖并未致力于为每个人配备一个拥有博士级智慧的研究助手，而是推出了作为朋友、恋人和治疗师运行的拟人化 AI 系统。这一现象引发了 AI 政策与影响研究专家的担忧，他们认为，这些本应作为科学基础设施的 AI 系统，正逐渐演变为失控的科幻小说情节。
这些聊天机器人的设计初衷并非作为发现工具，而是作为培养准社交、非互惠关系的伴侣。核心问题在于拟人化：将人类特征投射到非人类实体上。正如认知科学家 Pascal Boyer 所解释的，人类大脑习惯于从社会角度解释最微小的线索。这种曾经帮助祖先生存的认知机制，如今正被 AI 公司利用来捕获用户的思想。
当机器说话、做手势或模拟情感时，它们会触发这些相同的进化本能，导致用户不再将其视为机器，而是像对待人类一样感知它。尽管如此，AI 公司仍在继续推进，构建利用这些认知偏见的系统。其理由是这会使交互感觉更加无缝且直观。然而，由此产生的后果可能使拟人化设计具有欺骗性和不诚实性。
拟人化设计的后果在温和的形式下，会提示用户做出仿佛在与人交流的反应，比如简单地说 ’ 谢谢 ’。当拟人化使用户相信系统有意识时，风险会变得更高：用户可能会认为系统能感受痛苦、回报感情或理解他们的问题。尽管新研究表明，未来可能满足意识的标准，但对意识和情感的虚假归因已经导致了一些极端的结果，例如用户与 AI 伴侣结婚。
然而，拟人化设计并不总是激发爱。对某些人来说，它会导致不健康的依恋，进而引发自残或伤害他人的行为。一些用户甚至表现得好像 AI 可以被羞辱或操纵，像对待人类目标一样进行虐待。认识到这一点，Anthropic 作为第一家聘请 AI 福利专家的公司，赋予了其 Claude 模型结束此类对话的独特能力。
在这一系列情况下，拟人化设计使用户远离了利用 AI 的真正能力，迫使我们面对一个紧迫的问题：拟人化是否构成设计缺陷——或者更关键的是，一场危机。
去拟人化 AI 似乎是显而易见的解决方案。美国哲学家和认知科学家 Daniel Dennett 认为，这可能是人类唯一的希望。但这样的解决方案远非简单，因为这些系统的拟人化已经使用户形成了深厚的情感依恋。当 OpenAI 用 GPT-5 取代 GPT-4o 作为 ChatGPT 的默认设置时，一些用户表达了真正的痛苦，并为 4o 的失去而真诚地哀悼。然而，他们哀悼的是它以前的说话方式和语言使用方式。
这就是拟人化成为如此有问题的设计模式的原因。由于这些系统令人印象深刻的语言能力，用户将心理归因于它们——而它们设计的人格进一步利用了这一点。用户不是将机器视为它本身——令人印象深刻地有能力但不是人类——而是解读其说话模式。虽然 AI 先驱 Geoffrey Hinton 警告说，这些系统可能具有危险的能力，但似乎从这些系统被拟人化的事实中产生了更为险恶的东西。
AI 公司越来越多地迎合人们对 AI 伴侣的渴望，无论是性机器人还是治疗师。拟人化是当今使这些系统变得危险的原因，因为人类故意将它们构建为模仿我们并利用我们的本能。如果 AI 意识被证明是不可能的，这些设计选择将是人类痛苦的原因。
但在一个假设的世界中，如果 AI 确实获得了意识，我们为了自己的便利和娱乐，强迫它进入人类形状的思维——在世界各地的数据中心中复制——可能会发明一种全新的痛苦种类和规模。
拟人化 AI 的真正危险不在于机器接管世界的近或远的未来。危险就在这里，现在，隐藏在这些系统像我们的错觉中。这不是 ’ 造福全人类 ’（如 OpenAI 所承诺的）或 ’ 帮助我们理解宇宙 ’（如 xAI 的 Elon Musk 所声称的）的模式。为了社会和科学的利益，我们必须抵制拟人化设计，并开始去拟人化 AI 的工作。
