LLM Agent

定义

具有一定程度自主性的系统，借助LLM的推理能力，通过独立思考、拆分任务、调用工具完成复杂任务。

给出示例

LLM Agent应用框架范式

LLM Agent = LLM + Wrapper(Prompt/Function Call/MCP)

关键组件

• LLM + 规划
  • LLM Agent系统借助LLM的自然语言处理能力来理解用户需求，来实现子目标和分解、反思和改进。
    • ReAct：Reason and Action 通过思维链的方式引导 LLM 将复杂问题进行拆分，并一步步进行推理（Reason）和行动（Action），并引入观察（Observation）环节。
• 记忆
  • 可以辅助Agent生成并优化结构化prompt，进行迭代规划
    • 短期记忆：模型上下文信息
    • 长期记忆：外部向量存储和快速检索
• 工具
  • 调用外部工具API实现相关功能

LLM Agent应用模式

• 反思模式（Reflection Pattern）：LLM自我审查上一轮的输出以发现错误，通过迭代生成最终输出结果
• 工具模式（Tool Use Pattern）：允许LLM通过各类工具来获取更多信息，例如搜索、数据库等
• ReAct模式（Reason and Action Pattern）：Agent使用工具与外界进行交互，并且根据外部反馈进行反思推理得到结果
• 规划模式（Planning Pattern）：通过子目标和分解，创建需要执行的目标任务路线，一步步的完成。
• 多智能体模式（Multi-agent Pattern）：多个Agent各分配一个专用的角色和任务，并配置相应的工具；根据需要，将任务委派给其他Agent；所有Agent协同工作，提供最终结果。

Agent的作用

• 自动化任务执行

  • 自动分解并执行复杂的任务，而非进行简单的问答

• 集成多个工具和资源

  • 系统集成和协同多个工具和资源，提供更加全面的解决方案

• 持续交互和迭代

  • 与用户进行持续交互，根据用户反馈调整和优化结果

• 个性化设置和上下文感知

  • 根据用户偏好和历史数据，提供个性化服务