异军突起的AI代理，会把人类带入一个怎样的新世界？

see122

从早期的机械自动化装置到近年来的对话机器人，科学家和工程师一直梦想着一个未来：人工智能系统能够智能且独立地工作和行动。代理型人工智能的最新进展使这一自主化的未来更接近现实。代理型人工智能的潜在价值巨大，它有望为人类劳动力带来更高的生产力、创新能力和洞察力。

代理型人工智能正在推动人类与人工智能互动和协作方式的巨大变革。试想一下：能够为你规划下一次海外旅行并安排所有行程的人工智能代理；充当老年人虚拟护理的类人机器人；或者能够根据实时需求波动即时优化库存的人工智能供应链专家。这些只是代理型人工智能时代所带来可能性的冰山一角。

过去的人工智能助手大多是基于规则的，独立行动能力有限，而代理型人工智能将被赋予更多代表人类行动的权力。那么，代理型人工智能究竟是什么呢？“可以用一个词来定义代理型人工智能：主动性。”全球体验工程企业Ciklum的人工智能专家恩维尔·切廷在接受采访时表示，“它指的是能够自主行动以实现目标而无需持续人类引导的人工智能系统和模型。代理型人工智能系统能够理解用户的目标或愿景，以及他们试图解决的问题的背景。”

为了实现这种自主决策和行动能力，代理型人工智能依赖于多种复杂技术的组合，包括机器学习、自然语言处理和自动化技术。虽然代理型人工智能系统利用了像ChatGPT这样的生成式人工智能模型的创造性能力，但它们在几个方面有所不同：

首先，它们专注于决策，而不是内容生成；其次，它们不依赖人类的提示，而是被设定为优化特定目标，例如最大化销售额、提升客户满意度评分或提高供应链流程的效率；第三，与生成式人工智能不同，它们能够独立实行复杂的活动序列，比如自主搜索数据库或触发工作流以完成任务。

与代理型人工智能合作的益处

凭借其强大的推理和实行能力，代理型人工智能系统有望彻底改变人机协作的许多方面，尤其是在以往相对不受人工智能自动化影响的工作领域，例如主动管理复杂的IT系统以预防故障；根据地缘政治或天气干扰动态重新配置供应链；或与患者或客户进行高度逼真的互动，以高效解决问题。其主要益处包括劳动力更高程度的专业化、信息可信度的提升以及创新能力的增强。

1、更高的专业化程度

自亚当·斯密在其著作《国富论》中提到制针工厂的经典案例以来，人们就已认识到劳动力专业化——即“分工”的重要性。斯密观察到，“一名工人拉伸铁丝，另一名工人将其校直，第三名工人将其切断，第四名工人将其磨尖……”，如此一来，“制针这一重要业务就被分解为大约十八个不同的工序”。专业化能够提升效率、促进实践学习和激发创新，但在劳动力短缺或岗位与现有技能不匹配的情况下，其实施仍面临诸多挑战。

由于代理型模型被明确设计为实行非常细致的任务，它们使得角色的专业化程度远高于以往的宽泛自动化系统。此外，可以迅速创建多个代理型角色。例如，在常识工作中，可以开发专门用于信息检索、分析、工作流生成和员工协助的代理，它们能够协同作业。同时，一些人工智能代理还会在“幕后”发挥作用，像人类管理者协调团队一样，统筹其他代理的工作。

2、创新

凭借增强的判断力和实行力，代理型人工智能系统非常适合实验和创新。例如，ChemCrow是一种人工智能驱动的化学代理，它已被用于规划和合成一种新型驱虫剂以及创造新的有机化合物。多代理AI模型还可以在极短的时间内扫描和分析庞大的研究领域——例如科学文章和数据库——这将花费人类科学家和研究人员团队大量的时间。由麻省理工学院研究人员开发的SciAgents多代理模型，不仅包含用于生成研究计划的“科学家”代理，还配备了一个“批评代理”，专门用于审查这些计划并提出改进建议。通过这种协同工作模式，SciAgents团队成功识别出一种新型生物材料，该材料结合了丝绸和蒲公英基色素，展现出优于传统材料的机械和光学性能，同时能耗更低。

3、更高的可信度

代理型人工智能系统凭借其更强的认知推理能力，能够有效避免生成式人工智能系统常见的“幻觉”现象（即生成虚构信息）。此外，它还能显著提升对信息来源的筛选和甄别能力，确保信息的质量与可靠性，从而增强人们对其决策的信任。

例如，客户信息通常以不同的格式分散在企业的各个部分——电子邮件、数据库、电子表格等。而代理型人工智能系统能够迅速判定，企业客户关系管理（CRM）系统通常是获取最可靠、最新信息的最佳来源。此外，代理型系统还被设计为能够快速学习企业的价值观和品牌理念，确保其决策和行动与之保持一致。

潜在应用场景

尽管许多代理型人工智能的应用仍处于实验阶段或试点阶段，但其在不同行业和职能中的潜在应用场景的大致轮廓已经开始显现。以下是一些例子：

1、客户服务

与传统自动化客户服务机器人（它们的响应和行动范围有限且预先设定）不同，代理型客户服务代理能够快速洞察客户的意图和情绪，并自主采取有效措施解决问题。

例如，代理型客户服务代理可以预测性地评估客户的包裹是否延迟送达，通知客户延迟情况，并主动提供折扣以缓解客户的失望情绪。总部位于加利福尼亚的AI初创企业Ema提供代理型人工智能聊天机器人，这些机器人可以动态搜索数千个不同的数据库和应用程序以解决客户咨询和投诉。它们可以从每次客户互动中学习，并为人类代理推荐最佳行动方案。Ema还会对其内容进行审计，以确保其准确性和合规性，同时为改善客户常识库提出建议。

2、制造业

从控制生产线的流程到定制产品，再到提出改进产品设计的建议，代理型人工智能在智能制造中可能有多种应用。工厂和运输中的机器、零部件以及其他物理资产上安装的传感器所收集的数据可以被代理型人工智能系统分析，以预测磨损和生产故障，避免非计划停机及其相关的成本。

德国人工智能初创企业Juna.ai部署人工智能代理运行虚拟工厂，旨在提高生产力和质量，同时减少能源消耗和碳排放。该企业甚至提供针对特定目标定制的代理，例如生产代理和质量代理。

3、销售支撑

对于销售人员来说，寻找和开发销售线索这一关键目标往往被大量的电子邮件、文书工作以及其他繁琐但必要的行政任务所淹没。代理型人工智能系统可以极大地解放销售团队，使他们摆脱这些耗时的活动。

CRM技术巨头Salesforce推出了“Agent Force Service Development Rep”，以协助人类销售团队的工作。该代理由大型语言模型（LLM）驱动，能够解读客户信息，推荐后续行动，安排会议，回答问题，并生成符合企业品牌声音的回应。与这些活动相辅相成的是“Agent Force Sales Coach”，它为人类代理提供个性化反馈，并通过虚拟角色扮演课程提供学习机会。

4、健康与社会护理

代理型人工智能系统能够适应不同环境，解读人类情感并展现同理心，这使其非常适合在医疗保健和护理等领域的非例行、软技能工作。总部位于加利福尼亚的代理型人工智能医疗保健企业Hippocratic AI开发了一系列针对不同医疗保健和社会支撑领域的定制化人工智能代理。其中，名为Sarah的代理以“温暖和关怀”的形象为老年人的生活提供贴心帮助。它可以询问患者的日常情况，安排菜单和交通，并定期提醒患者服药。另一位名为Judy的代理则帮助患者进行术前准备，例如提醒患者到达时间和地点，或建议术前禁食或停药。

面临的挑战

尽管代理型人工智能具有显著的潜力，能够改变人机协作方式，推动更高的效率和业务增长，但其仍处于相对早期的发展阶段。此外，尽管其推理和实行能力更强，但它们并没有消除传统劳动力管理的挑战；相反，它们改变了这些挑战。正如在传统的人类劳动力环境中一样，管理者仍需关注团队构成和角色选择等问题，并设定正确的目标，以确保代理型人工智能或混合团队能够取得成功。他们还需要谨慎调整代理型人工智能系统可以被信任做出决策的条件，以及人类决策者需要干预的情况。

成功的关键要素

为了充分利用代理型人工智能带来的机遇，同时降低风险，管理者应考虑以下关键要点：

1、设定SMART目标

正如目标定义不清或表述不当会阻碍人类团队的绩效一样，代理型人工智能系统如果目标设定不明确，也会偏离轨道。事实上，对于代理型人工智能而言，目标设定至关重要。这些系统在初始阶段往往缺乏人类工编辑凭借经验所隐性掌握的上下文信息，比如组织和市场背景、企业价值观等。Ciklum的Cetin强调了全面目标设定的重要性：“为了使代理式人工智能取得成功，模型必须拥有SMART（具体、可衡量、可达成、相关、时限性）目标和子目标，并知道如何衡量它们。它们还必须拥有正确的上下文信息——例如，为什么这些目标对企业至关重要，它们如何推动收入增长等。最后，作为管理者，大家需要建立反馈循环，以便随着大家对它们性能的了解增加而调整模型。”

2、关注团队选择

与生成式人工智能（主要通过向大型语言模型提出单一问题来获取答案）不同，代理型人工智能更像是一个团队协作的过程。它通过多个具有特定角色和分工的人工智能代理协同工作，来实现更宏大的目标，无论是提升客户体验，还是创新低成本的业务流程。正如在人类团队中一样，协调、冲突和资源管理等问题可能会出现。管理者在使用代理型人工智能系统时，必须精心挑选团队成员，确保各代理角色的合理搭配，从而高效完成任务。此外，他们还需要仔细考虑代理型团队与人类工编辑如何互动，以实现活动中的信任和效率。

3、构建决策框架

尽管代理型人工智能模型被设计用于评估决策选项并实行复杂的活动序列，但它们并非完美无缺，仍可能犯错，就像人类一样。学习科学强调了“支撑框架”在学习过程中的重要性——为学习者提供接近真实场景的实践机会，同时设置保护措施，例如监督、明确的限制等。随着经验的积累，这些保护措施会逐步减少。在将代理型人工智能系统应用于不同的任务和业务领域时，这种“支撑框架”是必不可少的。决策者需要根据多种因素为这些模型构建合适的“支撑框架”，例如决策的重要性、错误的后果、训练数据的可靠性、人类监督的程度，以及与这些系统协同工作的人类的经验水平。

从早期的机械自动化装置到近年来的对话机器人，科学家和工程师一直梦想着一个未来：人工智能系统能够智能且独立地工作和行动。代理型人工智能的最新进展使这一自主化的未来更接近现实。代理型人工智能的潜在价值巨大，它有望为人类劳动力带来更高的生产力、创新能力和洞察力。然而，风险也同样存在：偏见、错误和不当使用。企业和政府领导者现在尽早采取行动，将有助于为代理型人工智能的发展设定正确的方向，使其益处能够安全、公平地实现。

关键词：AI

马克·普尔迪（Mark Purdy）| 文

马克·普尔迪是Beacon Thought Leadership的联合创始人兼董事，这是一家专注于内容开发和培训服务的独立咨询企业。

Kimi | 译 周强 | 编校


来源：36kr