共计 4384 个字符，预计需要花费 11 分钟才能阅读完成。
未来十年，不断进步的人工智能（AI）将对企业和人类劳动力产生深远影响。AI 最初将增强人类能力，接管低价值任务，使人们能够专注于更具战略性和创造性的工作。然而，以代理为中心的 AI 企业正在以前所未有的速度和方向发展。
我们所说的六个自主工作级别指的是 AI 助手与 AI 代理的成熟度水平。为了更好地理解 AI 助手和代理在工作场所的采用预测及其影响，AI 代理通过大型语言模型（LLMs）的出现成为可能，这些模型实现了深度语言理解、推理和决策。
然而，代理在企业中采用存在一些需要解决的限制，包括缺乏访问私人数据的能力和缺乏内置的行动能力。为了增加代理的采用，必须解决这些担忧。
代理可以有不同程度的自主性。辅助代理（有时称为副驾驶）与人类合作，增强能力而不是单独行动。副驾驶通常需要人类输入和反馈来完善建议或行动。自主代理在没有直接人类监督的情况下独立运作。这些代理的混合版本——与其他完全自主的代理不同——可以根据需要无缝地将任务移交给人类。适当的护栏对于确保可靠性、遵守业务实践、数据安全和隐私以及防止幻觉、毒性和有害内容至关重要。
我与两位技术和创新分析师以及企业市场战略家进行了交谈，以更好地理解 AI 代理在业务中的采用、挑战和机遇，以及主流实施的预测。
Michael Maoz 是 Salesforce 创新战略的高级副总裁。在加入 Salesforce 之前，Maoz 是分析师 Gartner 的研究副总裁和杰出分析师，担任客户服务和支持策略研究领域的研究负责人。
Ed Thompson 是 Salesforce 市场战略的高级副总裁。在加入 Salesforce 之前，Thompson 是 Gartner 的研究副总裁和杰出分析师，涵盖客户体验（CX）、CRM 策略和实施。Maoz 和 Thompson 分享了他们对企业中 AI 代理未来的看法。
我认为要达到主流需要比人们想象的更长时间。不是由于技术限制，而是由于采用和习惯的改变。粗略地说，代理要么是员工的助手，要么可以取代员工。在第一种情况下，它们就像私人助理，已经存在，虽然不是完美的形式，但我预计在未来五年内，几乎所有白领工人和一些蓝领员工将看到他们使用的应用程序将内置助手，帮助减少在繁琐任务上花费的时间——但员工仍将存在并仍处于控制之中。
在第二种情况下，它们取代员工。取代整个工作是一个艰巨的任务——这将需要很长时间，除非这份工作令人讨厌且高度重复。我敢打赌，我们将在 10 年内看到这种情况在主流中发生。我敢打赌，这将由初创公司实现，它们可以从头开始重新设计工作，拥有大量数字员工而不是现有企业。我想到的是旅行社或保险经纪人或财务顾问，他们只有两名人类员工，但有十几名数字代理员工，看起来像一个 20 名员工的公司。
哪些用例将首先出现的问题不同，尽管它与何时我们将看到广泛采用的问题相关。我同意，像 Salesforce Agentforce 服务代理这样的早期 AI 代理将用于大量低风险和低复杂性的用例，例如自动收集客户服务代理处理聊天或电话所需的信息并在屏幕上显示该信息。
AI 代理将使用知识图谱来呈现人类代理需要帮助客户的目标内容。另一个 AI 代理将为人类代理起草电子邮件或文本跟进，供其检查和批准。在互动结束时，另一个 AI 代理将总结对话。
另一组用例将是下一代聊天机器人。当前的聊天机器人具有刚性的知识库，试图猜测客户的意图，并且在处理需要图像和其他媒体的多模式互动时表现不佳。新兴的 AI 代理机器人具有智能知识答案，这意味着它们不仅回答问题，还执行行动。它们基于 LLMs，当然，但提示在几个方面更加丰富。以下是新提示的四个非常酷的特征：
- 提示知道提问者的角色（或询问的另一个 AI 代理的权限），并且可以为答案授予对某些信息的访问权限，而不是其他信息。
- 提示使用先进的自然语言建模，是多模式的，并且可以专注于与特定上下文相关的知识，以文本、音频和图像的组合回答。
- 提示可以执行一组操作，例如“拉取索赔表”或“检索订单状态”或分析附加的照片。
- 提示可以根据隐私、合规性或任何行业法规的规则采取行动。
这种过滤的一个有价值的副作用是计算能力大大降低，这对环境有好处。
尽管我提到了客户服务，但还有许多其他用途，例如起草销售跟进电子邮件、探索一组电话、创建动态营销细分和每个细分的正确信息，以及对于编码员：将自然语言翻译成代码。
这些例子都是关于“什么”的。要预测 AI 代理何时会成为主流，我们可以从 Geoffrey Moore 的_Crossing the Chasm_中寻找答案。他建议，技术创新者通常在所有 IT 领导者中占个位数的百分比，他们率先采用新技术。在这些创新先锋之后，早期采用者看到他们的创新同行并希望复制他们的成功。
在高层次上，在接下来的几个季度中的某个时候，推动早期采用者的 AI 代理的迷恋将让位于早期采用者之间关于预算和创新带宽的更广泛对话。大多数公司重新分配资源以支持需要新流程和新供应商关系的新 IT 项目的能力非常有限。当有显著新能力的承诺时，例如有高概率的收入增长或运营效率的新业务模式，他们将这样做。
除非经济放缓阻碍技术创新周期，否则我们应该看到早期采用者在 2024 年底开始推出扩展 AI 代理项目的计划，并且随着成功故事在行业中更加广为人知，我们可以预计 2025 年下半年将是更多部门和企业中广泛采用扩展和协调 AI 代理项目的时间。
这让我们剩下大多数买家——超过 80%——他们坐等 IT 变革的含义更加明确，业务效益更加清晰，真实成本可以更可靠地计划。
生成式 AI（Gen AI）已经存在了 18 个月，但许多企业尝试过并且失败了。有些人可能称之为实验过程，因为只有 9% 的企业将用例扩展到大量员工。是什么导致了扩展问题？
嗯，有安全、偏见、毒性、治理护栏、合规性、版权和数据来源等问题，最近还有 LLMs 的能源使用及其对可持续发展目标的影响。但最大的问题是，显然，由于模型所基于的数据，提示的响应不准确。数据来源和质量是主要原因。
我与一些公司交谈过，他们在初次测试时获得了 40% 的准确答案，他们发现随着模型的学习，以及他们剔除低质量数据并添加更好的数据来源，准确性每周提高 5%。这并不意味着员工是 100% 准确的，但您至少需要匹配员工所做的准确性。结果是，许多员工看到第一批建议的答案或电子邮件或总结，并得出结论这是垃圾，拒绝采用。因此，从业者的挑战通常是他们是否应该削减并转移到另一个更有可能产生效益的用例，还是给他们时间学习和提供新的数据来源？
企业在 Gen AI 中需要应对几个现实。首先是需要为每个 Gen AI 项目降低风险。为此，需要良好的数据治理，以便可以信任用于 AI 的数据。然后，您需要能够审计数据。接下来，它必须通过“道德使用”测试，因此偏见不会嵌入结果中。必须存在隐私层。对于企业，与外部 Gen AI 工具不同，Gen AI 的数据必须是“零复制”，这意味着它不存储任何数据。除非您能做到这一切，否则您可能会违反现有的或新兴的法规，例如欧盟的 AI 法案。
第二个因素是人类更喜欢人类，即使 AI 更准确。消费者更喜欢法官而不是算法，即使数据显示法官的一致性不如 AI。或者自动驾驶车辆：大多数人表示他们更喜欢由人类驾驶的汽车，即使自动驾驶车辆会更准确。
最后一个因素可能被称为“人性化”。对于从发票问题帮助到医疗建议或大量技术支持的互动，人们正在寻找同理心、关心、透明度、理解和信任。这些特质很难以成本效益的方式在软件中捕捉。
你说得对，我们已经涵盖了变革的三个要素中的两个，技术和流程变革，开放的问题是，“管理层是否准备好拥抱变革？”来自全球人力资源的调查显示，员工一致表示，每个月最糟糕的一天是他们必须与经理交谈的那一天。当你深入挖掘原因时，有不安全感，围绕重要指标的透明度不足，低工资或恶劣条件，缺乏足够的培训，感觉责任只朝一个方向，以及感觉经理不信任他们。遗憾的是，这些比想象的更真实。我倾向于建议看看员工最快乐的公司，并问，“为什么是他们，这有回报吗？”
在某种程度上，最快乐的员工也在最成功的公司，我们必须想知道，他们快乐是因为成为胜利团队的一员更有趣，还是因为他们为那家公司工作更满意？ADP、Apple、Ferrari、Costco、BMW、Cisco、Airbus、Rossman、Samsung 和 Salesforce 都是员工满意度最高的公司，而且都是成功的公司。他们跨越六个不同的行业，所以这不是原因。他们是管理良好的劳动力。
又是那个词：经理。一个好的经理——一个好经理——需要成为一个领导者。哈佛商业评论和其他人已经有很多研究谈到这一点。但他们需要成为一种企业家，总是以开放的心态准备如何做丰田所说的“更好，更好，永不最好”。
他们是团队的领导者和企业家。他们承担合理的风险以改进，他们不仅仅是为了自己，而是为了公司、客户和员工的利益。他们在做决定时也倾向于看大局，并在可能的情况下与团队合作做出决定。
最后，他们关心直接下属的成功。正如他们迅速赞扬成功一样，他们也不害怕帮助无法达到所需水平的员工在公司内部或外部找到其他机会。正是这种领导者将大胆地带领他们的团队前进，拥抱 AI 代理作为团队的新成员，致力于使每个团队成员更有效和成功。
管理——如果我将这个话题与代理的推出结合起来，那么这是一个非常有趣的话题。代理技术即将为经理们带来巨大挑战。当代理作为员工助手时，情况并不那么严重，但当它们取代员工时，情况将发生变化。我们目前有限的证据表明，当代理是员工的助手并卸载无聊的日常工作时，对于经理来说，这是提高团队中低绩效者的好方法。对于最高绩效者来说，好处要少得多。在许多方面，这对经理来说是一个福音，尽管当低绩效者现在看起来很像高绩效者时，绩效评估变得更加困难。
但我们还没有看到很多代理作为全职员工的情况。这完全改变了经理 - 员工关系。现在，经理必须决定人类员工或数字代理员工是否能更好地完成工作。想象一下，经理现在有五名人类员工和五名数字代理员工在团队中。这种情况肯定会带来更多摩擦。这将改变好经理的定义。
但这取决于哪些工作被取代。许多工作和角色令人讨厌。通常在职业生涯的早期，我们都被分配了最不受欢迎的任务。有人会为这些工作被代理取代而哀悼吗？同样，许多工作由承包商或外包商执行，这些人不由内部经理日常管理。
我怀疑零工、临时、合同和外包工人将是首先尝试使用代理员工的角色。但是，如果代理员工取代了每个人都希望跳跃到那些角色的工作呢？那么经理的工作将变得非常痛苦。
在我看来，代理对经理和员工的影响都取决于引入的速度。如果一家公司选择在不到两年的时间内取代 50% 的员工，比如 Klarna，那么对于员工和经理来说，这很可能是痛苦的，即使这对投资者和高管来说是好事。如果这需要十年时间，情况就大不相同了。现在没有人质疑超市的自助结账——但花了十年时间才推出。因此，我希望管理层的幸福和不满将取决于实施的速度。
