共计 1981 个字符，预计需要花费 5 分钟才能阅读完成。
在华盛顿特区的一次 AI 峰会上，唐纳德·特朗普总统发表了他最热衷的话题之一——“觉醒”。特朗普批评了前总统乔·拜登时期的 AI 公司，称它们“不得不雇佣所有觉醒的人”，并称“觉醒是如此不酷”。他还指责 AI 模型被“注入了党派偏见”，包括“批判性种族理论”。为此，特朗普签署了一项名为《防止联邦政府使用觉醒 AI》的行政命令，要求政府机构不得采购那些为了意识形态议程而牺牲真实性和准确性的 AI 模型。
特朗普的命令明确指出，政府机构只能采购那些“在响应用户寻求事实信息或分析的提示时真实”、“优先考虑历史准确性、科学探究和客观性”，并且是“中立、无党派的工具，不会操纵响应以支持诸如 DEI 等意识形态教条”的大型语言模型（LLMs）。DEI 在这里指的是多样性、公平性和包容性，特朗普将其定义为对种族或性别事实信息的压制或扭曲，以及在模型输出中操纵种族或性别代表性。
尽管该命令声称“联邦政府应谨慎监管私营市场中 AI 模型的功能”，但现实情况是，几乎所有美国大型消费级 LLM 制造商都拥有政府合同，包括 Anthropic 的 Claude Gov 和 OpenAI 的 ChatGPT Gov 等产品。政府、商业和消费级模型开发之间并没有严格的界限，特朗普的 AI 行动计划鼓励在教育等面向公众的领域采用 AI 系统，政府资助和消费级产品之间的界限可能很快就会变得更加模糊。
特朗普对“DEI”的定义是广泛的，他对 DEI 的战争已经导致国家公园移除了突出原住民和女性的标志，五角大楼重新命名了一艘纪念同性恋权利先驱哈维·米尔克的船只，以及其他许多变化。即使是那些创作者明确追求他们认为中立真理的 LLM，除非它们调整服务，否则也很可能产生特朗普认为有问题的内容。
公司可能会投入资源开发某种专门“非觉醒”的政府版工具，假设政府同意将这些工具与 Llama、Claude 或 GPT 系列的其他模型分开对待——这可能就像在某些话题上添加一些直白的幕后提示一样简单。但以一致和可预测的方式将模型调整为特定方向可能是一个昂贵且耗时的过程，尤其是面对特朗普版本的“DEI”这样广泛且不断变化的概念，特别是因为该语言表明，简单地屏蔽某些讨论领域也是不可接受的。
激励措施强烈倾向于公司改变其整体 LLM 对齐优先级，以安抚特朗普政府。这带来了第二个问题：这正是特朗普声称他试图阻止的那种公然、意识形态驱动的社会工程。
该行政命令在理论上是为了确保 AI 系统产生“准确”和“客观”的信息。但正如 Humane Intelligence 联合创始人兼首席执行官 Rumman Chowdhury 向《华盛顿邮报》指出的那样，“没有意识形态偏见”的 AI 在“实践中是不可能的”，而特朗普精心挑选的例子在政治上明显偏向一方。该命令谴责了 2024 年谷歌迅速修复的一个失误，当时谷歌在 Gemini 中添加了一个过于热情的支持多样性过滤器——导致它产生了种族和性别多样化的维京人、开国元勋、教皇和纳粹士兵的形象——而毫不意外地忽略了谷歌试图平衡的 AI 中长期记录的反多样性偏见。
该命令也不仅仅对事实感兴趣。另一个例子是，一个 AI 系统表示“用户不应该‘错误性别’另一个人，即使是为了阻止核末日”，这本质上回答了一个伦理和观点的问题。这种谴责并不延伸到像 xAI 的 Grok 质疑大屠杀这样的事件。
LLM 产生了无可辩驳的错误信息，具有明显的现实世界危害潜力；它们可以错误地将无辜的人识别为罪犯，错误地识别有毒蘑菇，并加强偏执的妄想。该命令与这些无关。它的激励措施再次反映了特朗普政府通过“DEI”调查大学和公司所做的事情。它正在推动私营机构避免承认跨性别者、种族和性别不平等等特朗普鄙视的话题的存在。
长期以来，AI 系统一直在反映更大文化偏见的数据集上进行训练，并且对特定人口群体的代表性不足或过高，与特朗普的断言相反，结果往往并不“觉醒”。2023 年，《彭博社》将图像生成器 Stable Diffusion 的输出描述为一个“女性很少是医生、律师或法官”，“深色皮肤的男人犯罪，而深色皮肤的女人翻汉堡”的世界。重视避免丑陋刻板印象或希望吸引更广泛用户的公司通常需要积极干预以塑造其技术，而特朗普刚刚使这一过程变得更加困难。
攻击“纳入”促进“DEI”的概念，实际上是在告诉公司重写承认种族主义或其他不公正现象的整个知识领域。该命令声称，它只担心开发者“故意将党派或意识形态判断编码到 LLM 的输出中”，并表示如果这些判断“由最终用户提示或易于访问”，LLM 可以提供这些判断。但没有哪个大型科技公司的 CEO 会愚蠢到相信这一点——我们有一位总统，他多年来指责谷歌故意操纵其搜索结果，因为他找不到足够多的关于自己的正面新闻故事。
特朗普决心控制文化；他的政府已经针对新闻媒体为其敌人提供平台，大学的研究领域，以及迪士尼推广多样化媒体。科技行业将 AI 视为文化的未来——而特朗普政府希望其政治从一开始就融入其中。
