构建高效的人工智能体

什么是智能体？

“智能体”可以有多种定义。一些客户将智能体定义为完全自主的系统，能够长时间独立运行并使用各种工具来完成复杂任务；另一些客户则用该术语来描述遵循预定义工作流程的更具规范性的实现方式。在 Anthropic，我们将所有这些变体都归类为智能体系统，但我们在架构上对“工作流”和“智能体”做出了重要区分：

工作流：指通过预定义的代码路径来协调 LLM 和工具的系统。
智能体系统：指 LLM 动态地指导自身流程和工具使用，从而保持对完成任务方式的控制的系统。

何时（以及何时不）使用智能体

在使用 LLM 构建应用程序时，我们建议尽可能寻找最简单的解决方案，仅在必要时才增加复杂性。智能体系统通常会以延迟和成本为代价来换取更好的任务性能，您应该考虑这种权衡何时才合理：

当需要更复杂的场景时，工作流能够为定义明确的任务提供可预测性和一致性。
当需要大规模的灵活性和模型驱动的决策时，智能体是更佳选择。
对于许多应用而言，通过检索和上下文示例来优化单次 LLM 调用通常就足够了。

何时以及如何使用框架

有很多框架可以简化智能体系统的实现，其中包括：

Claude Agent SDK；
AWS 的 Strands Agents SDK；
Rivet，一个拖放式 GUI LLM 工作流程构建器；以及
Vellum，另一个用于构建和测试复杂工作流程的 GUI 工具。

这些框架简化了调用 LLM、定义和解析工具等底层任务，但它们通常会创建额外的抽象层，掩盖底层提示和响应，增加调试难度。

建议：开发者首先直接使用 LLM API，许多模式只需几行代码即可实现。如果您确实需要使用框架，请务必确保您理解其底层代码。对底层原理的错误理解是导致客户出错的常见原因。

构建模块、工作流程和智能体

我们将从基础构建模块 —— 增强型 LLM 入手，逐步增加复杂性，从简单的组合式工作流到自主智能体。

构建模块：增强型 LLM

智能体系统的基本构建模块是 LLM，并辅以检索、工具和记忆等增强功能。我们目前的模型能够主动利用这些功能——生成自身的搜索查询、选择合适的工具以及确定要保留哪些信息。

建议重点关注实施过程中的两个关键方面：一是根据具体用例定制这些功能，二是确保它们为 LLM 提供简单易用且文档齐全的接口（例如通过模型上下文协议 Model Context Protocol 集成第三方工具）。

工作流程：提示链

提示链将任务分解为一系列步骤，其中每个 LLM 调用都会处理前一个调用的输出。您可以对任何中间步骤添加程序化检查（门控），以确保流程仍在按计划进行。

何时使用：非常适合任务可以轻松且清晰地分解为固定子任务的情况。其主要目标是通过简化每次 LLM 调用，以牺牲延迟为代价来换取更高的准确率。
应用示例：撰写营销文案然后将其翻译成另一种语言；先写出文档大纲，检查大纲是否符合特定标准，然后根据大纲撰写文档。

工作流程：路由

路由机制对输入进行分类，并将其导向特定的后续任务。这种工作流程实现了关注点分离，并能构建更具针对性的提示。

何时使用：适用于复杂的任务，这些任务有不同的类别，最好分开处理，并且可以通过 LLM 或更传统的分类模型/算法准确地进行分类。
应用示例：将不同类型的客户服务查询（一般问题、退款请求、技术支持）导向不同的下游流程；将简单/常见的问题路由到较小、成本效益高的模型，将困难/不寻常的问题路由到功能更强大的模型，以优化性能。

工作流程：并行化

多层级管理（LLM）有时可以同时处理同一任务，并通过程序自动汇总其输出。这种工作流程（即并行化）主要体现在两个方面：

分段：将一项任务分解成若干个可以并行运行的独立子任务。
投票法：多次运行同一任务以获得不同的输出结果。

何时使用：当拆分后的子任务可以并行处理以提高速度，或者需要从多个角度或多次尝试以获得更高置信度的结果时非常有效。
应用示例：实现防护机制（一个模型处理查询，另一个负责筛选不当内容）；对一段代码进行漏洞审查（多个不同的提示审查代码，发现问题时标记）。

工作流程：协调器-工作者

在协调器-工作者工作流程中，中央 LLM 动态地分解任务，将任务委派给工作者 LLM，并综合它们的结果。

何时使用：非常适合复杂任务，且无法预测所需的子任务（例如编码任务中需要更改的文件数量和更改的性质取决于具体输入）。与并行化的关键区别在于其灵活性——子任务不是预定义的，而是由协调器根据特定输入决定的。
应用示例：每次对多个文件进行复杂更改的编码产品；涉及从多个来源收集和分析信息以寻找相关信息的搜索任务。

工作流程：评估器-优化器

在评估器-优化器工作流程中，一个 LLM 调用生成响应，而另一个提供评估和反馈，形成循环。

何时使用：当有明确的评估标准，且迭代优化能提供可衡量的价值时特别有效。两个良好契合的标志是：当人类明确反馈时，LLM 响应可以被明显改进；且 LLM 自身也能提供此类反馈。
应用示例：文学翻译（评估器 LLM 提供有用的批评以捕捉细微差别）；复杂搜索任务（评估器决定是否需要进一步搜索以获取全面信息）。

自主代理 (Agents)

随着 LLM 在理解复杂输入、推理规划、可靠使用工具以及从错误中恢复等关键能力上的成熟，智能体正逐渐在生产环境中涌现。

智能体从人类用户的指令或互动讨论开始工作。任务明确后，智能体独立规划和运行，并在需要时向人类寻求进一步信息或判断。在执行过程中，智能体在每一步从环境中获取“真实情况”（如工具调用结果或代码执行）以评估进度，并可在检查点或遇到阻碍时暂停以获取人类反馈。任务通常在完成时终止，但也常包含停止条件（如最大迭代次数）以维持控制。

何时使用：适用于开放式问题，难以或无法预测所需步骤数，且无法硬编码固定路径。智能体的自主性使其非常适合在受信任的环境中扩展任务。
注意事项：由于自主性，智能体意味着更高的成本和潜在的复合错误。建议在沙盒环境中进行广泛测试，并设置适当的防护栏。
应用示例：解决涉及基于任务描述对多个文件进行编辑的 SWE-bench 任务的编码代理；使用计算机完成任务的“computer use”参考实现。

组合与定制这些模式

这些构建模块并非一成不变。它们是开发者可以塑造和组合以适应不同用例的常见模式。成功的关键（与任何 LLM 功能一样）是衡量性能并迭代实现。请记住：只有在能切实改善结果时才考虑增加复杂性。

总结

在 LLM 领域取得成功，不在于构建最复杂的系统，而在于构建适合您需求的系统。从简单的提示开始，通过全面评估进行优化，只有在简单解决方案不足时才添加多步骤智能体系统。

在实现智能体时，我们遵循三个核心原则：

保持简单：在智能体的设计中保持简单。
优先考虑透明度：明确展示智能体的规划步骤。
精心打造智能体-计算机接口 (ACI)：通过彻底的工具文档和测试来实现。

框架可以帮助您快速上手，但在转向生产环境时，不要犹豫减少抽象层并使用基本组件进行构建。遵循这些原则，您可以创建不仅强大而且可靠、可维护且受用户信任的智能体。