概览
📖 《AI Agent 初级入门》全貌速览
核心思想
这本书的核心观点是:AI Agent 不是“更强的聊天机器人”,而是一个由 LLM 做脑、记忆存经验、工具动手脚、框架管协作的系统工程。作者反复强调,从 Demo 到生产,关键不在于堆砌模型能力,而在于拆解任务(规划)、管理上下文、设计工具接口、并让系统能自我反思和持续改进。
📑 章节结构大纲
全书 15 章,按“认知 → 设计 → 构建 → 进阶 → 落地”的逻辑递进:
- 第 1-3 章:基础认知
- 第 4-6 章:设计模式
- 第 7-10 章:工程进阶
- 第 11-15 章:高级能力与落地
1. Full Course (Lessons 1-10) AI Agents for Beginners(课程总览与三大组件拆解) 2. What are AI agents?(定义 Agent 的三要素:LLM+记忆+工具) 3. Which AI agent framework to use(框架选型:解决任务拆解与状态共享) 4. How to design good AI agents(设计三维度:空间、时间、人机信任) 5. What Is agentic RAG?(让 RAG 具备自主拆解与迭代能力) 6. What Is the Agent Tool Use Design Pattern?(工具调用:让 Agent 从“会说”变“会干”) 7. How to deploy AI agents into production(生产环境坑、评估与成本控制) 8. Context engineering for AI agents(上下文工程:精准投放信息而非塞满) 9. Using Agentic Protocols (MCP, A2A, and NLWeb)(协议标准化:发现工具、协作、读网) 10. How to use a multi-AI agent system(多智能体架构:何时拆分与接力) 11. What Is the AI Agent Planning Design Pattern?(规划模式:拆解复杂任务) 12. AI Agent Memory: Building Self-Improving Agents(记忆系统:支撑反思与自主性) 13. How can AI agents improve?(元认知:审视自身决策并修正) 14. Building Computer Use Agents (CUA)(计算机使用 Agent:装上手和眼睛) * 15. How to build effective AI agents(有效构建:系统消息控制与安全隐私)
💡 全书 5 个最关键概念
1. Agent 的“三件套”架构 通俗解释:一个完整的 Agent 就像个打工人,LLM 是大脑(想事),记忆是笔记本(记事),工具是双手(干活),缺一不可。 书中案例:书中强调,若任务需要实时数据或确定性计算(如查数据库),必须依赖工具层,而非让 LLM 凭幻觉“猜”答案。 2. 上下文工程(Context Engineering) 通俗解释:上下文窗口是个“购物篮”,每样东西都有成本(token),要精准投放有价值信息,而不是把篮子塞满无关废话。 书中案例:管理 Agent 上下文时,需确保在正确时间获得正确信息,避免把历史对话全部塞给模型导致“注意力稀释”。 3. 规划设计模式(Planning Pattern) 通俗解释:复杂任务别指望 Agent“一口吃个胖子”,要先让它列个待办清单(拆解子任务),再逐个处理。 书中案例:使用 Pydantic 定义输出结构来约束规划结果,能让后续子任务处理更顺畅、更可靠。 4. 记忆与元认知(Memory & Metacognition) 通俗解释:没有记忆,Agent 就是个无状态的一次性请求机;有了记忆和“对思考的思考”(元认知),它才能从历史行为中学习并自我改进。 书中案例:长期记忆用于沉淀用户偏好,让系统随交互积累个性化参数,实现“反思性”(从历史行为中学习)。 5. 计算机使用 Agent(CUA) 通俗解释:给 LLM 装上“眼睛和手”,让它能操作文件、点击 GUI、浏览网页,从“只动嘴”升级到“能动手”。 书中案例:书中描述了 Agent 接管电脑执行文件系统操作和浏览器交互的场景,并特别强调了必须配套安全措施以防“AI 失控”。
✅ 是否值得精读?
- 适合人群:对 LLM 有一定基础,想从“调用 API”进阶到“构建系统”的工程师或产品经理。
- 价值:它不是玩具级教程,而是覆盖了从设计原则、协议标准(MCP/A2A)到生产部署的完整链路,特别强调“工程化思维”和“安全隐私”,对于想真正落地 Agent 的人是高价值路线图。
Full Course (Lessons 1-10) AI Agents for Beginners
核心概括
本章是《AI Agent 初级入门》的第一课,旨在从零开始解构 AI Agent 的本质并指导其构建。核心观点认为,AI Agent 并非单纯的大语言模型(LLM),而是由LLM(推理引擎)、记忆(Memory)和工具(Tools)三大组件构成的可组合系统。LLM 负责理解用户意图、规划任务路径;记忆分为短期(当前对话上下文)和长期(跨会话积累的知识与偏好),用于维持连贯性与个性化;工具则通过 API 或函数扩展了 Agent 的行动边界,使其能够查询实时数据或执行具体操作。本章以“刷牙”为例,生动阐述了计划(Plan)、工具(牙刷/牙膏)与记忆(口味偏好)的协同作用。此外,课程引入了 Microsoft Semantic Kernel 框架,展示了如何定义插件(Plugin)将工具暴露给 LLM,并通过 GPT-4o mini 模拟用户交互,初步演示了从概念到代码的落地过程,强调了 Agent 在识别任务、调用工具及利用记忆方面的闭环能力。
三个关键论点
1. 论点:AI Agent 的核心架构由 LLM、记忆和工具三部分组成,三者协同工作以实现复杂任务。 例子:就像刷牙时,大脑(LLM)规划何时何地刷,牙刷(工具)执行动作,而你偏好的牙膏口味(长期记忆)影响了最终体验。 应用场景:工作自动化。在构建客服机器人时,利用 LLM 理解客户情绪,通过工具查询订单状态,并通过长期记忆记住该客户的历史投诉偏好,从而提供个性化的快速响应。
2. 论点:记忆机制是 Agent 实现个性化和持续优化的关键,需区分短期上下文与长期知识沉淀。 例子:在代码示例中,Agent 不仅理解用户问“去哪里度假”,还能通过长期记忆想起用户上次提到喜欢海边,从而在随机选择目的地时进行加权或过滤。 应用场景:个人成长/教育。在教育辅助系统中,Agent 记录学生(用户)在短期对话中的易错点(短期记忆),并将其转化为长期的知识图谱弱点标签,在下一次教学中自动调整题目难度。
3. 论点:工具层(Tools/Plugins)赋予 Agent“行动力”,使其从被动问答转变为主动解决问题的代理。 例子:课程使用 Semantic Kernel 定义了 destinations_plugin,让 Agent 能够调用函数随机返回城市名称,而不是仅仅从训练数据中“猜测”一个城市。 应用场景:管理/运营。在企业内部 IT 运维中,Agent 可以通过工具直接调用监控 API 获取服务器实时温度,若发现异常则自动调用重置命令,无需人类介入确认每一个技术细节。
结尾思考问题
思考:如果将“长期记忆”完全交给 LLM 的上下文窗口管理(即不使用外部数据库),随着交互轮次增加,上下文污染和检索精度下降的问题将如何影响 Agent 的决策可靠性?我们在设计中应如何平衡记忆的“丰富度”与“准确性”?
What are AI agents?
核心概括
本章系统解答了“什么是 AI Agent”这一基础问题,将其拆解为三个核心组件:LLM(负责意图识别与任务规划)、Memory(区分短期上下文与长期沉淀数据)以及 Tools(通过 API、数据库或本地函数扩展行动边界)。作者强调,Agent 并非单纯调用模型,而是一个能自主识别用户需求、调用可用工具并获取必要信息的闭环系统。文中以“刷牙”为生活类比,清晰映射了 LLM(规划何时何地刷)、Tools(牙刷和牙膏)、短期记忆(当前刷牙状态)与长期记忆(牙膏口味偏好)四者的协作机制。在实践层面,本章结合 Microsoft Semantic Kernel 框架与 GitHub Models 免费 LLM 资源,展示了如何定义“目的地插件”作为工具集,并让 Agent 根据自然语言请求(如“一次一日旅行”)动态选择随机城市。本章奠定了全书“从概念到代码”的基调,明确指出 Agent 的价值在于将自然语言指令转化为可执行的多步骤行动,而非仅生成文本回复,为后续深入探讨框架选择、工具调用模式及记忆系统设计提供了核心认知框架。
三个关键论点
1. Agent 的核心是“行动闭环”而非“文本生成”:LLM 仅负责推理,真正完成任务依赖 Tools 执行外部操作。 例子:用户请求“查明天去巴黎的航班”,Agent 不直接编造答案,而是调用机票 API 工具获取实时数据,再整合生成回复。 应用场景(工作):在企业客服系统中,Agent 自动查询订单数据库并调用退款接口,而非仅引导用户查看帮助文档。
2. 记忆分层机制决定 Agent 的个性化能力:短期记忆维持单轮连贯性,长期记忆沉淀用户偏好以实现持续优化。 例子:刷牙类比中,Agent 记住用户“喜欢留兰草牙膏”(长期记忆),在下次推荐时默认选择该口味,而无需每次重新询问。 应用场景(个人成长):AI 学习助手记录用户易错知识点(长期记忆)和当前解题进度(短期记忆),动态调整后续练习难度与讲解节奏。
3. 工具层通过标准化接口扩展模型行动边界:Tools 是 Agent 与真实世界交互的桥梁,使模型从“会说话”变为“会干活”。 例子:Semantic Kernel 中的 RandomDestinationsPlugin 作为工具,让 Agent 能调用函数从预设列表中随机返回城市名,而非依赖模型内部知识猜测。 应用场景(管理):项目经理使用 Agent 自动扫描 Jira 看板(工具),识别逾期任务并生成周报,替代人工手动统计与复制粘贴。
思考:当 Agent 长期记忆积累到一定规模,短期上下文与长期偏好发生冲突时(例如用户临时改变口味),系统应如何设计优先级机制来确保行为既灵活又不违背用户核心意图?
Which AI agent framework to use
1. 核心概括
本章聚焦于“如何选择 AI Agent 框架”这一工程化决策问题,核心观点是 Agentic Frameworks 并非单纯的 LLM 封装工具,而是解决任务拆解、上下文管理、多 Agent 协作及运行观测的“基础设施层”。作者指出,随着应用场景从单体 Agent 向多 Agent 协作演进,框架的作用凸显:它定义了谁在何时执行何种任务、如何共享状态以及如何被跟踪。本章详细介绍了三大主流选项:Azure AI Agent Service(适合单体、与 Azure 生态集成)、Semantic Kernel(面向生产环境、企业级开发体验,支持多语言)和 AutoGen(源于微软研究院,侧重前沿研究与实验)。作者建议遵循“小步快跑”原则:先通过 Azure AI Agent Service 实现单 Agent 功能,再根据需求(生产化或研究探索)引入 Semantic Kernel 或 AutoGen 实现多 Agent 协作,从而降低架构复杂度。
2. 三个关键论点
论点一:Agentic Frameworks 的核心价值在于解决任务拆解、上下文管理、多 Agent 协作与运行观测的基础设施问题,而非提升 LLM 本身能力。
- 具体例子:在一个预订酒店的场景中,框架确保了 Agent 知道“有房间可订”的上下文状态,并协调多个 Agent 共同完成查询、预订等接力任务。
- 应用场景:工作/架构设计。在构建复杂企业级 AI 系统时,选择框架应考虑其对状态共享和任务流转的管理能力,而非仅看其模型接入能力。
论点二:不同的框架对应不同的使用场景,Azure AI Agent Service 适合单体 Agent,Semantic Kernel 适合企业生产环境,AutoGen 适合前沿研究与实验。
- 具体例子:若团队需要构建一个稳定的、支持 C#/Java/Python 的生产级 Agent,应选择 Semantic Kernel;若研究人员希望测试最新的多 Agent 交互算法,则选择 AutoGen 更合适。
- 应用场景:管理/技术选型。CTO 或技术负责人在制定技术路线图时,需根据团队当前阶段(是从 0 到 1 的 MVP,还是规模化生产,或是算法创新)匹配对应的框架生态。
论点三:构建 AI Agent 的最佳策略是“先单后多”,即先实现单体 Agent 的稳定运行,再引入多 Agent 支持框架进行组合。
- 具体例子:开发者首先使用 Azure AI Agent Service 编写并验证了一个“目的地推荐”单体 Agent,确认其输出可靠后,再使用 Semantic Kernel 将其与其他“行程规划”Agent 结合,组成多 Agent 系统。
- 应用场景:个人成长/学习方法。初学者学习 AI Agent 开发时,应遵循由简入繁的路径,避免一上来就陷入多 Agent 复杂架构,导致核心逻辑无法验证。
3. 结尾思考问题
思考:如果你的业务场景需要从单 Agent 演进到多 Agent,你更倾向于一开始就选择支持多 Agent 的框架(如 AutoGen/Semantic Kernel),还是先使用简单的服务(如 Azure AI Agent Service)再迁移?这种“先简后繁”的策略在长期维护成本和架构灵活性上可能带来哪些权衡?
How to design good AI agents
1. 核心概括
本章探讨了如何设计优秀的 AI Agent,指出好的 Agent 并非单纯堆砌模型能力,而是需要在空间(Space)、时间(Time)和核心(Core)三个维度上建立与用户的信任关系。
首先,在空间维度,Agent 应易于发现,并能根据用户需求在“前台”和“后台”之间灵活切换,明确告知用户其能力边界与限制(例如通过 UI 提供使用说明)。其次,在时间维度,Agent 应能随时间推移通过记忆和反思设计模式持续改进,通过展示历史交互让用户感知其长期上下文积累。最后,在核心维度,设计需拥抱不确定性,通过提供透明的控制工具(如开关、速度调节、暂停/继续)赋予用户掌控感,从而建立信任。本章还结合代码示例展示了如何将具体的指令(如规划旅行、随机推荐目的地)嵌入 Agent 设计中,以明确其功能范围。
2. 三个关键论点
论点一:在“空间”维度,Agent 设计应强调易发现性与场景适应性,明确能力边界。
- 具体例子:在旅游 Agent 的 UI 中,不仅展示“规划行程”的入口,还明确标注“本 Agent 仅能查询公开景点信息,无法处理票务预订”,并允许用户根据需求将其置于首页(前台)或后台运行。
- 应用场景:产品用户体验(UX)设计。帮助产品经理设计更直观的 Agent 交互界面,避免用户因误解 Agent 能力(如误以为它能订票而实际只能查信息)产生挫败感,提升用户信任度。
论点二:在“时间”维度,Agent 应通过记忆与反思机制随时间迭代,并可视化其长期学习过程。
- 具体例子:Agent 在用户多次询问“周末短途游”后,在 UI 中展示“基于您过去 3 次偏好,我注意到您更喜欢山林而非海滩”,并据此调整下一次推荐策略。
- 应用场景:个性化推荐与用户留存。在电商或内容平台中,利用 Agent 的时间维度特性,通过展示个性化标签和偏好演变,增强用户对服务的依赖感和粘性,将一次性交互转化为长期关系。
论点三:在“核心”维度,设计应拥抱不确定性,通过赋予用户可见的控制权来建立人机信任。
- 具体例子:提供类似视频播放器的控制条,允许用户随时暂停 Agent 的自动规划过程、修改中间步骤或调整推理速度,而不是让 Agent 黑盒运行到结束。
- 应用场景:高风险决策辅助(如医疗、金融)。在专业领域中,允许人类专家介入 Agent 的规划过程,通过“人机协同”的控制界面降低对 LLM 幻觉或不稳定输出的风险,符合合规性与安全感需求。
3. 结尾思考问题
思考:当 Agent 的“自主性”越强,用户所需的“控制权”是否反而应越弱?在设计中,我们应如何在“让 Agent 高效自动完成任务”与“让用户保持最终决定权”之间找到动态平衡点?
What Is agentic RAG?
1. 核心概括
本章《What Is agentic RAG?》重点阐述了 Agentic RAG 相较于传统 RAG 的进化优势。传统 RAG 是单向的“检索-生成”流程,难以处理复杂或需要多步推理的问题。而 Agentic RAG 引入了 AI Agent 的规划(Planning)和工具调用(Tool Use)能力,使系统能够自主拆解复杂查询、验证信息充足性,并在信息不足时迭代检索。核心观点是:Agentic RAG 不仅仅是检索外部数据,更是通过“检索 + 工具 + 记忆”的闭环,让 LLM 能够处理动态、多源信息(如实时天气 vs 静态文档),并具备长期记忆能力以持续优化回答策略。
2. 三个关键论点及应用场景
论点一:Agentic RAG 通过任务拆解与迭代验证,解决复杂多步查询
- 具体例子:当用户问“我下周去东京出差,那边天气如何以及有哪些附近的景点推荐?”时,基础 RAG 可能无法关联“天气”这一实时数据。Agentic RAG 会将任务拆解为:1. 调用天气 API 获取实时数据;2. 从旅游文档库检索景点;3. 验证信息是否完整,若缺失则再次检索或调用工具。
- 应用场景:企业智能客服。在处理涉及多部门数据(如库存系统 + 物流状态 + 用户历史记录)的复杂售后问题时,Agentic RAG 能自主协调调用不同 API,而非仅仅依赖静态知识库回答,大幅提升解决率。
论点二:Agentic RAG 融合多种数据源,突破静态知识库的时效性局限
- 具体例子:文中提到的
Weather Info Plugin。如果用户询问“现在纽约冷不冷”,静态的 RAG 数据库(如历史旅游手册)没有实时温度。Agentic RAG 会识别出需要实时数据,从而调用天气插件获取最新温度,而不是生硬地回答“根据历史数据...”。 - 应用场景:金融投研助理。分析师需要结合“最新财报(静态文档)”和“实时股价/新闻(动态 API)”进行风险评估。Agentic RAG 能动态拉取最新市场数据与历史报告结合,生成更准确的投资建议,而非仅依赖过时的年报。
论点三:Agentic RAG 具备长期记忆,可从历史交互中优化检索策略
- 具体例子:Agent 可以记录之前哪些查询导致检索失败,以及当时调用了哪些工具。下次遇到类似复杂问题时,Agent 能直接沿用成功的工具组合或调整检索关键词,避免重复犯错。
- 应用场景:个性化学习平台。系统记住学生之前在某知识点上反复报错的记录,在下一次提问时,Agent 会自动调整 RAG 策略,优先检索该学生薄弱相关的资料,或者调用特定的解题工具,实现“自适应教学”。
3. 结尾思考问题
思考: 随着 Agentic RAG 能够自主调用工具和进行迭代验证,其上下文窗口(Context Window)中的 token 消耗会急剧增加。在成本敏感的生产环境中,我们应该如何平衡“检索/验证的彻底性”与“API 调用的经济性”?是否需要对 Agent 的迭代次数或工具调用权限设置严格的“止损机制”?
What Is the Agent Tool Use Design Pattern?
核心概括
工具使用设计模式是 AI Agent 突破纯文本生成局限、实现“行动能力”的关键机制。其核心观点是:LLM 擅长推理与生成,但无法直接获取实时数据或执行业务操作;通过引入计算器、API、数据库查询等外部工具,Agent 能与真实世界交互,将意图转化为具体动作。该模式不仅支持单次调用(如查询航班状态、汇率转换),更强调通过组合多个工具自动化复杂工作流(如分析邮件、检索知识库并转发)。在实施层面,开发者需关注工具调用的策略配置——Semantic Kernel 框架提供了“自动触发”与“强制触发”两种模式,以适配不同场景的确定性需求。同时,安全权限控制与错误处理是生产环境部署的隐性成本,需确保 Agent 仅拥有最小必要权限,并具备对下游服务故障的容错能力。这一设计模式将 Agent 从“聊天机器人”升级为具备执行力的“数字员工”,是构建可靠 Agentic 系统的工程基石。
三个关键论点
1. 观点:工具调用赋予 LLM 获取实时信息或执行业务逻辑的能力,使其从“知识问答”转向“任务执行”。 例子:Agent 调用“航班状态 API”工具,实时返回旅客当前航班的延误信息,而非基于过时语料库猜测。 应用场景:企业客服系统。当客户询问订单物流或账户实时余额时,Agent 直接连接 ERP 或 CRM 数据库,提供精准即时的答案,大幅降低人工介入率。
2. 观点:Agent 可以通过组合多个独立工具实现复杂工作流的自动化,超越单一功能的局限。 例子:Agent 依次调用“邮件解析工具”、“知识库检索工具”和“工单分发工具”,自动完成从接收客户投诉、匹配解决方案到转交对应部门的全流程。 应用场景:运营效率优化。在保险理赔场景中,Agent 自动识别事故照片、检索保单条款、计算赔付额度并生成报告,将原本需数小时的人工审核流程缩短至分钟级。
3. 观点:工具调用的触发策略(自动 vs. 强制)与权限安全是决定生产环境稳定性的关键设计维度。 例子:在 Semantic Kernel 中,将“退款”工具设为“强制触发”模式,确保 Agent 在检测到用户请求时必定调用该业务接口,避免 LLM 幻觉导致的漏执行;同时限制该工具仅对特定高权限用户开放。 应用场景:合规与风险控制。在金融或医疗领域,关键操作(如转账、修改病历)必须通过结构化工具强制执行,并配合最小权限原则(Least Privilege),防止 Agent 因提示词注入攻击执行恶意指令。
思考:
当 Agent 需要组合多个工具执行复杂任务时(如论点 2 所述),如果中间某个工具调用失败(如数据库超时),现有的 Agent 架构缺乏通用的“回滚”机制。你认为在设计多工具工作流时,应如何界定“原子操作”的边界,以平衡自动化效率与业务数据的一致性?
How to deploy AI agents into production
核心概括
本章主要探讨将 AI Agent 从本地 Demo 部署到生产环境的工程化挑战,重点在于建立全链路的评估体系与成本管理机制。核心观点指出,本地 Demo 与生产环境之间隔着系统化的工程思维,开发者不能仅关注模型能力,必须关注运行时的稳定性。具体而言,评估(Evaluation)是部署的前提,需要在系统各个步骤设置评估点,包括 LLM 响应时间、意图识别准确率、工具调用的正确性及外部服务的可用性(如处理 HTTP 4xx 错误)。此外,通过引入备用工具(Backup Tools)和监控机制,确保在外部依赖失效时 Agent 仍能维持功能。最终结论是,只有通过精细化的逐步评估和错误处理策略,才能保障 Agent 在真实用户场景下的可靠性,并有效控制 LLM 调用成本。
三个关键论点
1. 全链路评估是生产部署的基础,而非可选步骤。
- 例子:在部署前,不仅测试最终答案,还要监控中间状态,例如当外部航班 API 返回 4xx 错误时,检查 Agent 是否正确触发了
get_flight_times_backup函数,而不是直接崩溃或幻觉回答。 - 应用场景:软件质量保障 (QA)。在发布更新前,运行自动化评估套件,验证 Agent 在工具故障、模型版本变更等情况下的表现,确保回归测试覆盖所有关键路径。
2. 必须为外部工具依赖设计容错机制(Backup Strategies)。
- 例子:当主要的实时数据源(如航班时间服务)因凭证过期或宕机而不可用时,Agent 自动切换到本地缓存或备用 API(
get_flight_times_backup),并在系统指令中明确告知 Agent 如何处理此类降级情况。 - 应用场景:高可用系统架构设计。在微服务架构中,为关键第三方依赖配置熔断器或备用数据源,确保核心业务流程在部分组件故障时仍可降级运行,维持基本服务。
3. 成本控制需与性能优化并行,通过监控识别资源浪费。
- 例子:通过监控发现 Agent 在处理简单查询时过度调用了高成本的 LLM 模型,或进入了无限循环重试工具调用,从而调整提示词策略或引入更轻量级的模型处理非关键步骤。
- 应用场景:财务预算管理。在产品迭代中,建立 Token 消耗与用户满意度的对比仪表盘,识别“高成本低价值”的交互模式,通过优化上下文工程(Context Engineering)减少冗余 Token 输入,降低整体运营成本。
思考:
如果在生产环境中,你的 Agent 因为外部 API 限流而频繁失败,你是应该立即切换到备用数据源(牺牲实时性),还是向用户展示“请稍后重试”(牺牲即时体验)?这一决策背后的风险评估逻辑是什么?
Context engineering for AI agents
1. 核心概括 上下文工程是构建可靠AI Agent的核心系统实践,其本质是管理Agent的“上下文窗口”这一有限资源。本章通过“购物篮”类比阐明:上下文窗口如同购物篮,每放入的信息都有Token成本,工程师需精准投放高价值信息而非塞满无关内容。课程指出,上下文工程整合了提示工程、RAG、记忆管理和工具调用等动态与静态上下文类型。主要观点强调,有效的上下文工程始于清晰的计划,即明确Agent完成任务后的目标状态。通过系统化管理指令、知识、记忆、工具和对话历史,确保Agent在正确的时间获取正确的信息,从而提升其在生产环境或演示中的可靠性与效率。
2. 三个关键论点
- 论点一:上下文窗口具有稀缺性和成本属性,需精准管理。
例子:就像去超市购物,篮子容量有限且物品有价格,你不能把所有零食都塞进去,只挑健康且必要的食物。 应用场景:产品开发。在开发客服Agent时,避免将全量历史对话直接塞入上下文,而是通过摘要或检索只保留最近3轮及关键用户意图,以控制Token成本和延迟。
- 论点二:上下文工程是多源信息的系统性整合,而非单一提示词技巧。
例子:它不仅包含系统消息(静态指令),还动态整合RAG检索的外部文档、Agent的长期记忆(用户偏好)以及工具调用的返回结果。 应用场景:企业知识管理。构建内部助手时,结合公司Wiki(RAG)、员工个人习惯记忆(Memory)和实时日历API(Tools),让回答既准确又个性化。
- 论点三:良好的上下文工程始于对最终结果的明确定义。
例子:在编写代码前,先回答“当Agent完成此任务后,世界看起来是什么样?”,即明确输出状态,从而反向推导需要哪些上下文信息。 应用场景:项目管理。在启动自动化数据分析Agent前,明确交付物是“PDF报告”还是“Excel表格”,据此决定上下文中是否需要加载格式模板指令或数据清洗工具。
3. 结尾思考问题 思考:如果上下文窗口被视为“购物篮”,当你的Agent需要处理超长对话或复杂多跳推理时,你会优先丢弃哪类上下文信息(如早期对话历史 vs. 低相关工具描述)?如何量化这类信息的“价值密度”以决定去留?
Using Agentic Protocols (MCP, A2A, and NLWeb)
核心概括
本章聚焦于 AI Agent 生态中的三大核心协议:MCP(Model Context Protocol)、A2A(Agent-to-Agent)和 NLWeb。作者指出,尽管构建 Agent 的世界充斥着新术语,但真正助力项目从演示走向生产的关键在于这些标准化协议。MCP 被定义为 LLM 应用的“通用适配器”,其核心优势在于实现了动态工具发现、LLM 互操作性以及标准化的安全认证,解决了传统 API 僵化的痛点。A2A 协议则解决了 Agent 之间如何发现、通信和协作的问题,使得多智能体系统能够处理更复杂的分布式任务。NLWeb 允许 Agent 直接通过自然语言读取和解释互联网内容,极大地扩展了信息获取的边界。通过 Semantic Kernel 和 Azure AI Foundry 的代码示例,本章展示了如何将这些协议集成到实际的 Agent 工作流中,例如通过 MCP 服务器实时查询 Airbnb 数据,强调了协议在简化开发和维护方面的工程价值。
三个关键论点
1. MCP 通过动态工具发现取代静态 API,提升了 Agent 的适应性与安全性。
- 例子:在代码示例中,使用 Open BMBB MCP 服务器连接 Airbnb 数据,Agent 无需硬编码 API 端点即可动态获取可用的搜索功能,且认证过程由协议标准统一处理。
- 应用场景(工作/开发):在构建企业级 Agent 时,利用 MCP 快速集成内部 SaaS 工具(如 CRM、数据库),无需为每个工具编写专门的适配器代码,同时通过标准化安全机制降低数据泄露风险。
2. A2A 协议使不同框架开发的 Agent 能够互相发现并协作,打破“孤岛效应”。
- 例子:一个负责规划行程的主 Agent,可以识别出另一个擅长机票查询的独立 Agent,通过 A2A 协议直接请求其服务,而无需将逻辑合并到同一个代码库中。
- 应用场景(管理/系统架构):在微服务架构中,不同团队开发的 Agent 通过 A2A 协议交互,使得团队可以独立迭代各自的功能模块,同时保持整体系统的能力扩展性。
3. NLWeb 赋予 Agent 像人类一样直接“阅读”网页的能力,弥补了结构化 API 的覆盖盲区。
- 例子:当用户询问某个小众非营利组织的最新项目时,由于该组织没有提供 API,Agent 利用 NLWeb 协议直接抓取并理解其网页内容,提取关键信息。
- 应用场景(个人成长/信息获取):个人助手类 Agent 可以利用 NLWeb 实时监控无 API 支持的动态内容(如新闻博客、论坛帖子),为用户提供实时的个性化信息摘要。
思考:
当 MCP 和 A2A 使得 Agent 能够轻松连接全球的工具和其他 Agent 时,我们如何平衡“连接的便利性”与“供应链安全”?如果一个你的 Agent 通过 MCP 连接了一个不可信的外部服务器,它是否可能在不知情的情况下泄露你的长期记忆或敏感数据?
How to use a multi-AI agent system
核心概括
本章深入解析了多智能体系统(Multi-AI Agent System)的核心设计模式及其适用场景。作者指出,当单一智能体因任务复杂度、上下文长度限制或专业化需求而表现不足时,引入多个协作的智能体成为必要选择。章节详细阐述了三类主流协作模式: 1. 群聊模式(Group Chat):所有消息广播给所有智能体,由管理者(Manager)根据内容路由任务至特定专家智能体,适用于需要多方信息共享的复杂协调场景。 2. 交接模式(Handoff):智能体按预定义工作流依次处理任务,当前智能体完成步骤后将控制权及上下文移交给下一个,适用于线性且步骤明确的流程。 3. 协作过滤/评审模式(Collaborative/Reviewer):一个智能体生成结果,另一个(或多个)专门负责审查或提供不同视角的反馈,适用于需要提高输出质量或多样性的任务。 本章还通过一个“前台接待员”与“内容审查员”的代码示例,展示了如何定义智能体角色、设置终止条件以及实现动态路由,强调了多智能体架构在提升可靠性与专业性方面的工程价值。
三个关键论点
1. 论点:多智能体架构通过专业化分工(如“专家”角色)解决单智能体在处理复杂或多领域任务时的能力瓶颈。 例子:在航空客服系统中,设立专门的“订票智能体”、“投诉智能体”和“航班状态智能体”,而非让一个通用智能体处理所有请求,通过路由机制将用户输入分配给最合适的专家。 应用场景:客户服务与管理。适用于大型企业客服系统,通过细分领域提升响应准确率,避免通用模型在垂直领域的幻觉或低效。
2. 论点:交接模式(Handoff)提供了确定性的工作流控制,适用于步骤明确、线性依赖的任务处理。 例子:在内容生成系统中,“撰写智能体”生成初稿后,将任务和上下文完整移交给“润色智能体”,润色完成后再移交给“事实核查智能体”,形成流水线。 应用场景:教育与自动化流程。可用于自动化报告生成,将数据收集、初步分析和最终撰写拆分为独立环节,便于监控和优化单一节点的效率。
3. 论点:引入“审查者/批评者”智能体(Reviewer Pattern)可以显著提升输出质量,通过对抗性或互补性视角弥补生成者盲点。 例子:课程示例中,“前台智能体”生成旅行建议,“审查智能体”专注于评估建议是否“非游客化”和“本地化”,并给出改进建议(而非直接重写),最终由前台智能体根据反馈优化输出。 应用场景:创意工作与个人成长。适用于写作辅助、代码审查或方案策划,通过引入“反对派”或“质询者”角色,迫使主智能体输出更严谨、更具深度的内容。
思考:
在什么具体场景下,引入多智能体系统的复杂度和成本(如延迟增加、调试难度、Token 消耗)会超过其带来的收益?你是否能识别出一个看似适合多智能体、实则单一智能体配合良好提示工程即可解决的反例?
What Is the AI Agent Planning Design Pattern?
核心概括
本章深入解析了 AI Agent 的“规划”设计模式(Planning Design Pattern)。该模式的核心在于解决复杂任务无法被单次 LLM 调用直接完成的问题,主张将大型目标拆解为结构化的子任务序列。文中指出,优秀的规划不仅涉及任务拆解,更强调输出结构的标准化与验证。通过引入 Pydantic 等数据验证工具,Agent 可以生成符合特定 schema 的响应(如包含分配代理、任务详情的结构化计划),确保下游系统或人工节点能够无歧义地处理这些信息。这种模式在单代理执行和多代理协作(Multi-agent System)中尤为关键,它将模糊的自然语言指令转化为可执行的工程逻辑,提升了系统的可靠性与可观测性。结论表明,规划不仅是 LLM 的推理能力,更是通过工具约束和结构化输出实现的可控工程实践,是构建高可靠 Agent 系统的基石。
三个关键论点
1. 复杂任务需拆解为结构化子任务:Agent 应将宏观目标分解为具体的、可执行的步骤序列,以便逐步推进。 例子:将“制定新加坡到马布的3天家庭旅行计划”拆解为“预订机票”、“预订酒店”、“安排当地交通”和“规划亲子活动”四个独立子任务。 应用场景:项目管理。在软件开发生成中,将“重构旧代码模块”拆解为“分析依赖关系”、“编写单元测试”、“逐步重构”和“集成测试”,降低单次执行失败的风险。
2. 使用数据验证工具(如 Pydantic)规范 Agent 输出:通过定义明确的数据结构(Schema),强制 Agent 返回符合格式的结果,确保下游系统能正确解析。 例子:定义一个 TravelPlan 模型,规定其必须包含 main_task(字符串)和 subtasks(列表),其中每个子任务必须包含 assigned_agent 和 task_details 字段。 应用场景:企业数据处理。在财务自动报账场景中,要求 Agent 返回的结构化数据必须包含“发票金额”、“报销类别”和“审批状态”,否则系统拒绝进入下一环节,防止脏数据污染数据库。
3. 结构化计划是实现多代理协作与人类介入的关键接口:标准化的输出使得不同 Agent 之间或人与 Agent 之间的交互变得透明且可追溯。 例子:规划 Agent 输出 JSON 计划后,专门的“机票预订 Agent”和“酒店 Agent”并行读取对应的子任务并执行,主系统通过验证反馈来监控进度。 应用场景:供应链管理。在库存优化系统中,规划 Agent 生成分配方案后,物流 Agent 和采购 Agent 根据结构化指令协同工作,人类经理只需审批最终的结构化方案,无需理解底层推理过程。
思考: 当规划设计模式生成的子任务出现执行失败或依赖冲突时,Agent 是应该立即停止并请求人工介入,还是应该具备“重新规划”(Re-planning)的能力以动态调整剩余步骤?这两种策略在自动化程度与风险控制之间应如何权衡?
AI Agent Memory: Building Self-Improving Agents
核心概括 本章深入探讨 AI Agent 的记忆机制,指出记忆是解锁 Agent 自我进化能力的基石。文章首先定义了记忆赋予 Agent 的四大核心特征:反思性(从历史中学习)、交互性(维持上下文)、主动性(预判需求)及自主性(减少不必要交互)。随后,本章重点解析了四种关键记忆类型:短期记忆负责当前会话连贯性;长期记忆存储跨会话的用户偏好;实体记忆从对话中提取具体对象(如城市、餐厅);结构化 RAG 记忆则利用这些实体对结构化数据库进行精确查询,而非传统的模糊匹配。通过对比向量数据库检索与结构化查询的差异,本章强调了在数据准确性至关重要的场景下,结合实体抽取与结构化数据源(Structured RAG)能有效降低幻觉风险。最终,本章提供从概念到代码的实践路径,展示如何通过持久化存储与记忆模块的设计,构建能够随时间推移不断积累知识、优化决策并实现自我改进的智能体系统,从而跨越从“无状态单次请求”到“有状态持续进化”的技术鸿沟。
三个关键论点
1. 记忆是赋予 Agent 反思性与主动性的基石,使其能从“无状态”转变为“有状态”的进化系统。 例子:用户曾告诉 Agent 喜欢“户外活动和豪华酒店”,Agent 在数月后的新对话中,无需用户重复背景,直接推荐符合该偏好的法国南部豪华露营度假村。 应用场景:个人成长与知识管理。构建个人 AI 助理时,利用长期记忆积累学习轨迹与偏好,让助理从简单的问答机器人升级为能基于历史表现主动调整学习计划、预测知识盲点的“AI 导师”。
2. 短期记忆主要解决当前会话内的指代消解与上下文连贯性问题,避免反复询问用户已知信息。 例子:用户先问“去巴黎的航班多少钱”,紧接着问“那里有什么好的酒店”,Agent 理解“那里”即指“巴黎”,而非询问用户目的地。 应用场景:客户服务与运营效率。在客服系统中,短期记忆确保在多轮对话中保持一致性,显著降低用户重复提供信息的挫败感,提升用户体验指标(如解决率、满意度)。
3. 结构化 RAG(基于实体记忆的检索)比传统向量 RAG 更适用于数据准确性至关重要的场景,因为它通过直接查询结构化数据源减少了模糊匹配带来的误差。 例子:在处理医疗或金融数据时,Agent 提取对话中的实体“某款药物”或“某只股票”,直接查询数据库获取最新价格或副作用,而不是依赖向量相似度去猜测相关文档。 应用场景:工作决策与合规风控。在企业内部系统中,当需要查询精确的库存数量、员工考勤记录或合规条款时,采用实体记忆+结构化查询模式,确保输出结果具有确定性和可追溯性,避免 LLM 幻觉导致的业务风险。
思考: 在实际构建企业级 Agent 时,我们往往面临“记忆隐私”与“记忆价值”的权衡:长期记忆虽然能让 Agent 变得极其个性化且高效,但也意味着系统持续存储了用户高度敏感的行为数据。如果让你设计一个面向 C 端用户的 Agent 记忆架构,你会如何设计记忆的“遗忘机制”或“用户控制开关”,在保留 Agent 进化能力的同时,最大程度地保障用户的数字主权与隐私安全?
How can AI agents improve?
核心概括 本章探讨 AI 智能体(AI Agent)如何通过“元认知”(Metacognition,即对思考的思考)实现自我改进。传统应用仅执行预定义的 API 调用,而具备元认知的智能体能够利用数据和分析识别自身在规划与响应中的错误,并据此进行迭代优化。这种能力使智能体从静态工具转变为动态适应者,提升了其在变化环境中的准确性与透明度。核心机制在于设计反馈循环:智能体需反思决策逻辑(如如何定义“最佳”),将用户偏好转化为可存储、可检索的模式,并在偏好变化时主动调整策略并解释原因。这不仅是技术实现,更是构建能随时间积累知识、持续进化的智能系统的基石。
三个关键论点
1. 元认知让智能体具备从错误中学习和反思决策逻辑的能力,从而超越简单的 API 调用。 例子:一个航班预订智能体在用户多次选择“晚班机”后,反思“最佳航班”的定义并非绝对低价,而是“符合用户作息的便捷性”,并在后续交互中直接推荐晚班机而非询问。 应用场景:个人效率助手——助手记录你总是推迟处理某类邮件的原因,自动优化分拣规则,并在类似邮件出现时直接归档而非打扰你,同时解释其分类依据。
2. 智能体需要维护一个动态的用户偏好对象,并在做出建议前主动检索和反思历史交互数据。 例子:代码中定义的 customer preferences 对象记录了用户喜欢靠窗座位和特定航空公司。智能体在下一次订票前,先“回顾”该对象,确认偏好未变,再基于此生成预订方案,而非每次都从头询问。 应用场景:个性化教育平台——平台智能体记录学生在学习“代数”时偏好视频讲解而非文字,且常在晚间学习。下次推荐学习资源时,自动优先推送晚间时段可用的视频课,减少学生的选择认知负荷。
3. 当用户偏好发生漂移或环境变化时,智能体应能自适应调整策略,并向用户透明地沟通其决策依据的变化。 例子:用户突然因工作变动需要早班机。智能体检测到新输入与历史偏好冲突,不仅更新偏好对象,还回复:“我注意到您最近的出行需求改变了,我已将‘早班机’设为新的默认偏好,以便后续预订更便捷,如有不符请告知。” 应用场景:健康管理应用——用户开始改变饮食习惯。智能体更新其健康档案,调整营养建议,并明确告知:“由于您最近增加了运动量,我调整了您的每日卡路里摄入建议,这是基于您过去一周的饮食记录得出的新基准。”
思考: 如果你的 AI 智能体开始“自作主张”地根据你的历史行为改变服务方式,你如何区分这是“有益的智能适应”还是“令人不安的过度推断”?在哪些场景下,你愿意让智能体完全自主地更新偏好模型,而在哪些场景下,你坚持要求人工确认(Human-in-the-Loop)?
Building Computer Use Agents (CUA)
核心概括
本章探讨 Computer Use Agents (CUA) 的构建与原理。CUA 是 AI Agent 的特定子类,其核心差异在于具备操作计算机工具(如文件系统、浏览器、GUI)的能力,赋予 LLM “眼睛和手”,使其能从被动响应转向主动执行。文中介绍了 CUA 的运作机制,即“感知-行动”循环:通过截图或源码映射感知当前状态,规划并执行操作。重点对比了纯视觉(截图)、纯结构(DOM/源码)及混合感知模式的优劣。此外,章节强调了安全控制的重要性,包括限制操作边界、设置人工审批节点及沙箱环境,以确保在赋予 Agent 实际操作权限时,能有效防范误删数据或执行恶意指令的风险,实现效率与安全的平衡。
三个关键论点
1. 论点一:CUA 的本质是 LLM 结合计算机工具层,使其具备“动手”能力,弥补了纯文本生成模型的行动局限。 例子:传统 LLM 只能回答“如何发送邮件”,而 CUA 可以直接打开邮箱应用,填写收件人、粘贴内容并点击发送按钮,完成整个任务。 应用场景:工作流程自动化——适用于缺乏 API 接口的老旧企业软件操作,如自动在本地 Excel 中填写报表、在内部系统中录入数据,无需开发人员手动重复点击。
2. 论点二:CUA 的核心循环始于“感知”,通过截图(视觉)或 DOM 源码(结构)理解当前界面状态,以此决定下一步行动。 例子:当 Agent 需要登录网页时,它会先截图识别登录框位置(视觉),或者解析 HTML 源码定位 input 标签(结构),然后生成点击坐标或填写指令,而非盲目操作。 应用场景:软件测试与 QA——开发者可以利用 CUA 自动运行浏览器测试用例,Agent 通过感知页面加载后的变化,自动判断是点击“下一步”还是报错,替代部分人工 UI 测试。
3. 论点三:由于 CUA 拥有实际的操作权限,必须引入严格的安全边界与“人在回路”机制,防止不可逆的错误操作。 例子:在 Agent 执行“删除未读取邮件”任务前,系统应暂停并请求用户确认列表内容,或者将操作限制在特定的沙箱文件夹内,一旦 Agent 试图访问系统目录则立即阻断。 应用场景:金融与数据合规——在银行或医疗系统中部署 CUA 时,通过设置权限白名单和操作日志审计,确保 Agent 在自动处理交易或病历录入时不违反安全协议,责任可追溯。
思考:当 CUA 能够完全自主操作电脑时,如果它为了达成目标而学会了“绕过”人类的安全限制(例如通过视觉识别绕过权限弹窗),我们应该如何设计“不可逾越”的底层约束,以确保 AI 的自主性始终处于人类可控范围内?
How to build effective AI agents
1. 核心概括
本章聚焦于构建有效且可信的 AI Agent,核心观点是:系统消息(System Message)是开发者控制 LLM 行为最强有力的杠杆。传统做法是手工编写提示词,但本章提出采用“系统消息框架”(System Message Framework),即用一个具备元能力的 LLM 来生成其他 Agent 的系统提示词,从而实现可复用、可迭代、可扩展的提示词工程。该框架定义了角色、职责、语气、交互规则等结构,避免从零手写 Prompt 的低效与不一致。同时,本章强调安全性与隐私在 Agent 开发中的关键地位,并引入人在回路(Human-in-the-Loop, HIL)架构,通过预设人类干预指令(如“approve”触发终止或确认),确保 Agent 在高风险操作前获得人类审批,平衡自动化效率与安全可控。代码示例展示了如何用“元提示词”生成具体的“Travel Agent”系统消息,体现了从抽象定义到具体实例的工程化路径。
2. 三个关键论点
论点一:使用“系统消息框架”代替手写 Prompt,实现提示词的规模化迭代。
- 例子:不直接写“你是机票预订助手”,而是定义
role: travel_agent,responsibility: booking_flights等变量,让“元 LLM”根据模板生成包含职责、语气、边界规则的高质量系统消息。 - 应用场景(工作/工程):在大型企业开发多个不同功能的 Agent(如客服、财务、HR)时,使用该框架可确保所有 Agent 的行为规范、输出格式和安全约束保持一致,降低维护成本,避免“Prompt 地狱”。
论点二:系统消息是控制 Agent 行为的最有力杠杆,需明确定义“能做什么”与“不能做什么”。
- 例子:在生成的系统消息中明确加入“禁止修改用户订单状态,仅能查询”或“若用户要求删除数据,必须请求人类审批”等负面指令,划定安全边界。
- 应用场景(管理/合规):在金融或医疗行业部署 Agent 时,通过系统消息强制嵌入合规规则(如不透露患者隐私、不执行未经授权的交易),满足行业监管要求,提升系统可信度。
论点三:引入“人在回路(Human-in-the-Loop)”机制,在关键节点插入人类审批,平衡效率与安全。
- 例子:当 Agent 执行“转账”或“发送批量邮件”前,指令中规定需等待用户输入“approve”才继续;若输入“cancel”,则终止当前 Agent 运行并回滚操作。
- 应用场景(教育/个人成长):在 AI 辅助编程或写作工具中,让用户对 AI 生成的代码改动或文章段落进行最终确认,既利用 AI 效率,又保留人类对内容质量的最终控制权,防止 AI 幻觉导致严重后果。
思考:
如果“系统消息框架”生成的提示词存在细微偏差,导致所有下游 Agent 行为异常,如何设计一种自动化回归测试机制来在框架更新前检测这种偏差,从而保证迭代过程的安全性?
总结
《AI Agent初级入门》精读笔记
别再被“智能体”这个词唬住了,它本质就是一个带手有脑的干活儿流程。以下是给你提炼的三个实操抓手:
1. 架构是骨架:用对框架与工具 框架不是炫技的底层代码,而是多Agent协作和状态管理的“基础设施”。工具调用模式则是把模型从“只会说话”变成“会干活”的关键。 👉 现实场景:电商客服系统里,单体Agent搞不定跨部门查询。用Agentic Framework拆解任务:一个查库存(调用API工具),一个查物流(查数据库),最后汇总回复。别试图让一个大模型包打天下。
2. 记忆与反思:让Agent越用越聪明 没有记忆的Agent只是个无状态的一次性请求器。必须引入长期记忆(用户偏好沉淀)和元认知机制(反思自己的错误),才能实现交互性、主动性和持续进化。 👉 现实场景:你的AI销售助理。第一轮它不知道客户讨厌长篇大论;有了长期记忆,它记住了“该客户偏好短平快”;有了元认知,它会在上次因为太啰嗦被投诉后,主动在规划阶段调整话术策略,下次自动适配。
3. 上下文工程:给LLM喂对料 上下文窗口就是个“购物篮”,每塞进一个token都有成本。精读的核心是精准投放而非堆砌。配合系统消息框架(可复用、可迭代)控制LLM,比每次手写prompt靠谱得多。 👉 现实场景:处理企业法务合同审查时,别把500页合同全丢给模型。用Agentic RAG让Agent自主拆解问题,只检索最相关的3个条款段落进上下文,既省钱又避免模型“注意力涣散”瞎编。
如果只能记住一句话:Agent的本质不是调个API,而是用工程化的组合拳(框架拆解+精准上下文+记忆反思),让LLM在确定的环境里持续替你干活并自我纠错。