LLM智能体可视化指南（中文版）

LLM智能体可视化指南（中文版） LLM智能体可视化指南（中文版） Modified July 1, 2025 3. 规划（Planning） 工具的使用极大提升了LLM的能力，但智能体如何决定何时用哪个工具？ 这就需要“规划”能力。 规划指将任务分解为可执行的步骤，并根据历史行为调整计划。 推理（Reasoning） 推理能力是实现规划的基础。可以通过微调或提示工程（prompt engineering）引导LLM进行链式思考（Chain of Thought），让模型在回答前先“思考”。 推理与行动（ReAct） ReAct是一种结合推理和行动的提示工程技术，分为思考（Thought）、行动（Action）、观察（Observation）三个步骤，循环进行，直到得到最终结果。 反思（Reflecting） 反思技术（如Reflexion、SELF REFINE）让LLM智能体在失败后学会自我总结和优化，通过自我反馈不断提升表现。 多智能体协作（Multi Agent Collaboration） 单一智能体存在工具选择复杂、上下文过载、任务需专业化等问题。多智能体系统通过多个具备工具、记忆、规划能力的智能体协作解决这些难题。 典型多智能体框架 • Generative Agents：模拟人类行为的生成型智能体，每个智能体拥有独立的记忆、规划和反思模块。 • AutoGen、MetaGPT、CAMEL：流行的多智能体框架，各有不同的智能体通信与任务分配机制。 多智能体系统通常包括智能体初始化和智能体编排两大核心。通过角色分工与协作，提升整体系统能力和灵活性。 结论 本文简要介绍了LLM智能体的核心组件与最新进展。希望能够帮助你更好地理解LLM智能体的构建方法和发展方向。 如需更多相关可视化内容，欢迎关注作者的《大语言模型实战》一书及其配套资源。 3. 规划（Planning） 工具的使用极大提升了LLM的能力，但智能体如何决定何时用哪个工具？ 这就需要“规划”能力。 规划指将任务分解为可执行的步骤，并根据历史行为调整计划。 推理（Reasoning） 推理能力是实现规划的基础。可以通过微调或提示工程（prompt engineering）引导LLM进行链式思考（Chain of Thought），让模型在回答前先“思考”。 推理与行动（ReAct） ReAct是一种结合推理和行动的提示工程技术，分为思考（Thought）、行动（Action）、观察（Observation）三个步骤，循环进行，直到得到最终结果。 反思（Reflecting） 反思技术（如Reflexion、SELF REFINE）让LLM智能体在失败后学会自我总结和优化，通过自我反馈不断提升表现。 多智能体协作（Multi Agent Collaboration） 单一智能体存在工具选择复杂、上下文过载、任务需专业化等问题。多智能体系统通过多个具备工具、记忆、规划能力的智能体协作解决这些难题。 典型多智能体框架 • Generative Agents：模拟人类行为的生成型智能体，每个智能体拥有独立的记忆、规划和反思模块。 • AutoGen、MetaGPT、CAMEL：流行的多智能体框架，各有不同的智能体通信与任务分配机制。 多智能体系统通常包括智能体初始化和智能体编排两大核心。通过角色分工与协作，提升整体系统能力和灵活性。 结论 本文简要介绍了LLM智能体的核心组件与最新进展。希望能够帮助你更好地理解LLM智能体的构建方法和发展方向。 如需更多相关可视化内容，欢迎关注作者的《大语言模型实战》一书及其配套资源。 原文：https://newsletter.maartengrootendorst.com/p/a visual guide to llm agents LLM智能体（LLM Agents）正在变得日益普及，似乎正在取代我们熟悉的“常规”对话型大语言模型（LLM）。这些强大的能力并非轻易获得，而是需要众多组件协同工作。 本文将通过60多张定制可视化图，带你探索LLM智能体领域、其主要组成部分，并了解多智能体框架。 什么是LLM智能体？ 要理解LLM智能体，首先需要了解LLM的基本能力。传统的LLM本质上只是进行下一个token的预测。 通过连续采样多个token，我们可以模拟对话，并让LLM给出更丰富的答案。 然而，当我们继续对话时，LLM会暴露出一个主要缺点：它不会记住之前的对话！ 此外，LLM在许多其他任务上也经常失败，比如基本的数学运算。 这是否意味着LLM很糟糕？当然不是！我们可以通过外部工具、记忆和检索系统来弥补这些缺陷，从而增强LLM的能力。 例如，面对数学问题时，LLM可以调用一个计算器工具。 那么，“增强型LLM”（Augmented LLM）算是智能体吗？严格来说，不完全是，但也有点类似。 智能体的定义 根据Russell & Norvig在《人工智能：一种现代方法》（2016）中的定义： 智能体可以被视为通过传感器感知环境，并通过执行器对环境采取行动的系统。 智能体与环境交互，通常包括以下几个重要组件： • 环境：智能体所交互的世界 • 传感器：用于观察环境 • 执行器：用于与环境互动的工具 • 效应器：决定如何从观察到行动的“头脑”或规则 对于LLM智能体而言，可以将文本输入视为传感器，通过工具（如网络搜索）执行动作。 LLM智能体的核心能力之一是“规划”，即推理和思考下一步行动。 LLM智能体的三大核心组件 1. 记忆（Memory） LLM本身是没有记忆的。它无法记住之前的对话内容。 我们通常将这种短时记忆称为“工作记忆”。而LLM智能体还需要追踪更长时间范围内的操作，这就需要“长期记忆”。 短期记忆 最直接的方法是利用模型的上下文窗口（context window），即LLM能处理的token数量。 只要对话历史不超过窗口大小，就可以把全部历史作为输入。对于窗口较小或历史较长的情况，可以用另一个LLM对历史对话进行总结，保留关键信息。 长期记忆 长期记忆通常通过外部向量数据库实现。将所有历史对话、操作等嵌入为数值向量，存储在数据库中。 之后通过嵌入检索相关信息，这就是“检索增强生成”（RAG）。 长期记忆还包括跨会话的信息保留，并可细分为语义记忆、工作记忆等。 2. 工具（Tools） 工具让LLM能够与外部环境互动或调用外部应用。工具的两大用途包括：获取数据（如检索最新信息）和执行操作（如安排会议）。 要让LLM使用工具，通常需要它生成符合API格式的文本（如JSON），或直接调用代码函数。这被称为“函数调用”（function calling）。大多数现代LLM都已具备调用工具的能力。 Toolformer Toolformer是一种训练LLM自主决定何时、如何调用API的技术。 通过特定token（如⁠[⁠和⁠]⁠）标记工具调用区间，模型在训练阶段学习如何正确调用工具。 Model Context Protocol (MCP) MCP是Anthropic提出的协议，用于标准化API访问，简化工具集成。 MCP包括主机（Host）、客户端（Client）、服务器（Server）三部分，使LLM应用可灵活调用各种API。