LLM - Agent核心架构：四大“身体”部件
文章目录
- 一、Agent核心架构：四大“身体”部件
- 1. 核心大脑：大型语言模型（LLM）
- 2. 记忆系统：短期与长期记忆
- 3. 工具箱（Toolkit）：从“思想家”到“行动家”
- 4. 驱动循环（Engine Loop）：思考与行动的循环
- 二、Agent交互设计：从“问答”到“协作”
- 总结
一、Agent核心架构：四大“身体”部件
一个典型的Agent，主要由四大核心部件构成。你可以将它们类比为人类的身体构造，这样更容易理解其功能和协作机制。
1. 核心大脑：大型语言模型（LLM）
LLM是Agent的思考和决策中枢。它负责理解指令、进行推理、生成计划，并做出最终决策。作为产品经理，你的职责并非训练模型，而是选择和定义“大脑”的工作方式。
- 模型选型（Choosing the Right Brain）：不同的任务需要不同的大脑。处理复杂任务（如多步规划）可能需要像GPT-4这样的顶级推理模型；而执行快速的文本分类或工具调用，则可以选择成本更低、速度更快的模型，如Gemini 2.5 Flash或Claude 4。性能、成本和时延是平衡的艺术。
- 核心指令（Meta-Prompt / System Prompt）：这是Agent的“人设”和“价值观”。你需要在这里清晰地定义它的角色、性格、核心目标、行为准则和兜底策略。这就像给一个新员工制定工作手册，确保它知道自己是谁、该做什么、不该做什么。
2. 记忆系统：短期与长期记忆
没有记忆的Agent就像一只“金鱼”，无法记住过去的对话，也无法累积经验。高效的记忆机制是Agent能够进行有意义的连贯任务和提供个性化服务的关键。
- 短期记忆（Short-term Memory）：这相当于Agent的“工作台”或“草稿纸”，记录了当前任务执行中的所有思考过程。在经典的ReAct（Reasoning and Acting）框架中，这个草稿纸上会详细记录Thought -> Action -> Observation的循环，确保Agent每一步的决策都有迹可循。
- 长期记忆（Long-term Memory）：这是Agent的“经验库”，存储了跨会话的用户偏好、过往的成功经验和失败教训。这些信息通常存储在向量数据库中，并通过**RAG（Retrieval-Augmented Generation）**技术在需要时被检索出来，作为决策的依据。作为产品经理，你需要设计记忆的策略：Agent应该记住什么？哪些信息是高价值的？
3. 工具箱（Toolkit）：从“思想家”到“行动家”
工具箱是Agent连接数字世界和物理世界的“手和脚”。没有工具，LLM只是一个空想家。定义和设计Agent的工具箱，是产品经理最核心、最能体现产品价值的工作之一。
- 工具选择（Choosing the Right Tools）：你的Agent需要哪些“超能力”？是发送邮件、查询天气，还是执行代码、操作CRM系统？工具的选择直接决定了你的Agent能做什么，以及能解决什么样的问题。
- 工具设计（Designing the Tools）：每个工具都需要被精确地定义。你需要像设计API一样，定义工具的名称、功能描述、输入参数和输出结果。这个描述的清晰度，直接决定了LLM能否在正确的时机、以正确的方式调用它。一个模糊的工具描述可能导致Agent做出错误决策。
4. 驱动循环（Engine Loop）：思考与行动的循环
驱动循环是让所有部件协同工作的“引擎”。它驱动大脑、记忆和工具箱，使Agent能够连续地完成一个任务。
- 核心循环（Core Loop）：最经典的循环就是Thought -> Action -> Observation。LLM先进行思考（Thought），决定下一步行动；然后执行一个行动（Action），调用相应的工具；最后，根据工具返回的观察（Observation）结果，重新开始下一轮思考。这个循环不断重复，直到目标达成。
- 边界与目标（Defining Boundaries）：作为产品经理，你不需要实现这个循环，但你需要设计它的目标和边界。例如，定义“什么情况下任务算完成？”、“遇到多少次连续错误后应该放弃并向用户求助？”、或者“执行任务的最高时限是多少？”。这些规则确保了Agent在追求目标的同时，不会陷入无限循环。
二、Agent交互设计：从“问答”到“协作”
当Agent拥有了核心架构，你需要重新思考它的交互方式。传统的问答模式已经过时，你需要设计一种**“协作”**模式。
- 会话的“层次化”：将对话分为多个层次，包括即时任务状态、当前会话目标以及跨会话的长期记忆。这种分层让Agent可以更高效地管理信息，同时用户也能清晰地看到任务进展。
- UX四大关键点：
- 目标对齐（Goal Alignment）：在任务开始前，通过结构化表单或澄清式提问，确保Agent和用户的目标完全一致。
- 可见的计划（Plan Transparency）：让Agent在执行复杂任务前，展示它的行动计划（“我将先查询天气，然后帮你预定附近的餐厅……”）。这能增强用户的信任感。
- 关键动作前的“轻审批”（Soft Approval）：在可能产生风险的节点（如发送邮件、支付订单前），主动请求用户确认。
- 证据面板（Evidence Panel）：提供一个可回溯的面板，展示Agent的所有引用、调用、计算和决策过程。这不仅能增强透明度，也有助于用户调试和理解。
总结
Agent是一个包含目标、能力、记忆、规则和反馈的复杂系统。
