从「会聊天」到「会干活」：一文讲透智能体 AI|上下文|会干活|会聊天|向量|智能体|编程|调用

你大概也遇到过这种事：让 AI「帮我订一张下周去上海的机票」，它热情洋洋地给你一份订票攻略，哪家平台便宜、什么时间起飞、行李额怎么算——条理清晰，但就是不订。

这就是大模型和智能体（Agent）的分界线：前者负责「说」，后者负责「做」。

从思想家到实干家

传统大语言模型像一个博学的思想家。它读完了互联网上的几乎所有文本，莎士比亚、量子物理、编程样样都懂。但不给它工具、执行环境和状态管理，它能「看」能「说」，却未必能稳定地「做」。

局限有三个。

一是无状态。原生 LLM 是个无状态函数，每次请求对它都是全新的，上一秒聊过什么，它根本不记得——除非你把历史塞回上下文。二是单次推理，输入 A 输出 B，线性、一次性，说完就完。三是概率预测。你问它「这种药怎么吃」，它回答你，不是为了治好你的病，只是因为训练数据里，这类问题通常配说明书式回答。它的一切输出，本质都是在预测下一个 Token。

智能体做的事，就是给这位思想家装上「手」（工具）、「眼」（感知）和「记忆」，把他变成能跟真实世界打交道的实干家。

落到架构上，差异集中在三点：目标导向——它先想「为了达成目标，我需要什么信息、执行什么步骤」，而不是急着吐字；持久状态——记得你上周提过的过敏源，知道「订机票」的任务停在「已搜航班、等你确认」；主动循环——在一个 while 循环里不断「思考→行动→观察」，直到任务完成或达到最大尝试次数。

智能体的本质，是把「说」接上「做」的闭环。

诺贝尔奖得主卡尼曼在《思考，快与慢》里把人的思维分成两套：快速直觉的系统 1，慢速推理的系统 2。LLM 的直接生成是系统 1——快、有创造力、但容易产生幻觉；智能体的规划、执行、自我反思，就是套在系统 1 外面的那层系统 2 工程外壳。

一个有意思的问题是：智能体概念几十年前就在 AI 教科书里了，为什么现在才爆发？归结为三个条件的「涌现」：推理能力跨过临界点，模型第一次能把复杂任务拆解成可靠的多步执行；标准化交互协议出现，函数调用、MCP、A2A 让模型能稳定地「伸手」够到外部世界；记忆与上下文扩展，RAG 和长窗口让它记得住、装得下。

但早期探索交过学费。2022-2023 年那批 AutoGPT 式的实验暴露了四个典型问题：幻觉传递（模型把编造的文件路径传给删除工具，数据真没了）、无限循环（没有步数上限，「重试-失败-重试」烧掉海量 Token）、上下文爆炸（工具结果全部追加进上下文，成本线性飙升）、错误处理缺失（工具一报错就崩）。今天所有成熟的护栏设计，几乎都是那两年踩坑踩出来的。

拆开看：大脑、眼睛、手和笔记本

一个功能完备的智能体，由四大组件构成：负责规划决策的大脑、负责信息输入的感知、负责与世界交互的行动，以及存储经验知识的记忆。

图 1 · 智能体四大核心组件

大脑就是 LLM 本身，系统的 CPU。它的效能看两个维度：静态的角色设定决定思维底色（「你是十年经验的架构师，性格严谨甚至有点强迫症」——这种设定真的能提高代码质量）；动态的推理能力决定智力上限，包括任务拆解、规划和反思。

感知是把非结构化信息转成大脑能懂的信号。最基础的是文本；往上是多模态——看懂网页截图、从界面里定位按钮；最深的一层是环境状态：读 IDE 打开的文件、感知 git diff 的代码变更、捕捉 LSP 报错红线。对编程智能体来说，「看」还包括感知整个工程的状态。

行动是工具。

记忆解决「健忘」：短期记忆对应上下文窗口，像 RAM，快但断电即失；长期记忆对应向量数据库，像硬盘，靠 RAG 检索取回。这块后面单独讲。

图 1 里还有一个容易被忽略的角色：底部那道策略网关与沙箱。所有行动下发到目标系统之前，都要经过这层硬编码策略引擎、权限校验和沙箱隔离的拦截——因为智能体虽然聪明，却最容易被攻击、也最容易产生幻觉。安全规则不该写在提示词里（那叫「嘴控」防御，一骗就破），而应该长在运行环境里：模型「发疯」想删库？策略层看它权限不够，直接拦截，根本不问它怎么想的。

做 Agent 相关的工作，无论怎么变，都绕不开三个维度——Goal（目标怎么表达）、Context（执行时看到什么）、Constraints（边界画在哪）。一个初创系统可以只顾前两个；但要进生产，约束层的成熟度往往才是瓶颈。

五级认知阶梯：从图书馆员到整个社会

智能体的能力不是「有或无」，而是一条光谱。书里给出一个教学用的五级分层，每一级都有人类对标：

图 2 · 智能体的五级认知阶梯

L1 辅助型，对话助手，本质是图书馆员——问答、检索、生成，聊完什么都不改变。L2 执行型，工具使用者，本质是实习生——会拆任务、调工具，从「说」跃迁到「做」，Codex、Claude Code 这类产品在此。L3 自主型，学习者，本质是工程师——有长期记忆、能自我反思，执行失败会分析原因、调整策略、记录经验，在不依赖人类干预的情况下试错解题。L4 进化型（研究阶段），创造者——能自我编程、自动优化提示词，为自己开发当初没被赋予的新技能，代表作是 Minecraft 里持续积累技能的 Voyager。L5 群体型（研究阶段），社会网络——多智能体分工、协商、共同决策，涌现出个体不具备的集体智能。

不要盲目追求高层级。层级越高，成本越高、延迟越大。做知识库问答，就别引入工具调用，那只会平白增加幻觉风险；大多数企业级应用，稳定在 L2 就是生产主力；而在金融交易这种高可靠性场景，L3 的自动重试反而可能造成不可预期的副作用。

够用就好，是工程，也是克制。

会思考：ReAct、反思与提示词工程

智能体的「大脑」可拆成一组可组合的方法层，而不是一条单行道。

思维链（CoT）负责把一道复杂题摊开成连续的小步骤。它的理论意义不止是提示词技巧：生成中间步骤，等于给模型增加了「测试时计算量」——像人把草稿纸铺开，比心算可靠得多。思维树 / 思维图（ToT/GoT）进一步把候选路径组织成树和图，支持探索、比较和回退，承担搜索与规划。ReAct 则把推理和行动接成一个闭环：思考一步、调用一次工具、观察结果、再决定下一步——CoT 负责想，ReAct 负责把「想」接到「做」上，在不确定的环境里逐步逼近答案。

反思（Reflexion）解决的是「错了怎么办」：执行失败后分析原因、总结教训——「上次查表失败是因为没加引号」——把教训写进记忆，下次自动规避。会复盘的系统，才配得上「自主」两个字。

最后是提示词工程：它不是雕花，而是把角色、约束、工具说明、示例和缓存策略组织成一个稳定可控的运行接口。能力边界要有明确的「可以做 / 不能做」，工具描述要完整到参数和返回值，输出格式要给可解析的结构化示例，安全规则要包含防注入措施，静态内容要前置以适配缓存——并且至少在正常路径、边界情况、攻击场景下各测一遍。

会记忆：什么该记住，何时取回来

记忆不是「给 Agent 接一个向量库」这么简单。先要分清两种最基础的记忆形态——

参数记忆存在模型权重里，像人的本能：难改（要重新训练）、模糊（压缩成概率，容易幻觉）、静态（截止在训练结束那一刻）。非参数记忆存在模型外部，像人的笔记本：精确（可逐字引用）、动态（随时增删）、即取即用。智能体系统的本质，就是构建一个强大的非参数记忆系统，去弥补大模型参数记忆的滞后与不准。

图 3 · 智能体的三层记忆

借认知科学 1968 年的 Atkinson-Shiffrin 模型，智能体记忆分三层：感官记忆是原始输入的瞬时缓冲（提示词、图片像素、API 返回的 JSON），不被注意就立刻消失；工作记忆对应上下文窗口，是正在活跃加工的信息——对话历史、任务状态、推理过程，像 RAM；长期记忆对应向量数据库，像硬盘，靠 RAG 只把最相关的几条「回忆」装回上下文。

两个反直觉的工程事实。第一，上下文窗口不是越长越好：塞入太多无关信息，「中间丢失」（Lost in the Middle）效应会让推理精度不升反降。窗口管理的关键是预算、排序、压缩与取舍。第二，向量数据库只是记忆系统的一部分：向量相似度表达不了关系、时序和结构约束，所以还要知识图谱来补——RAG 解决「找回来」，图结构解决「组织对」。

这一切最后收拢到上下文工程：把窗口、记忆、工具和安全约束整合成一个统一的执行面。整章反复回答的是同一组问题——什么该记住、怎样记住、何时取回、如何避免取错。这也是为什么书里说：上下文不只是聊天记录，它是智能体对世界的「信念状态」的文本化表示——把报错信息放进上下文，就是它把「代码是完美的」这个信念更新成「第 5 行有 Bug」。

会动手：工具、MCP 与正在消失的界面

工具给智能体四种底层能力：信息获取、计算执行、环境交互、通信——突破知识截止、拿到实时数据、执行可靠计算、对真实世界产生影响。工具设计有原则：单一职责、描述清晰、参数用 JSON Schema、错误信息对模型友好。

真正的工程痛点从来不是「能不能调 API」，而是用一致的方式描述能力、传递上下文、处理错误与权限。没有统一协议的世界：每个应用为每个数据源单独写连接器（重复造轮子）、同类工具在不同系统里参数错误码各异（语义不一致）、鉴权分散审计不统一（权限难治理）。

MCP（模型上下文协议）就是冲着这个来的开放标准，把工具连接从「静态硬编码」推进到「动态发现」：宿主在运行时问服务端——你有什么资源？有哪些操作？输入输出结构是什么？声明了哪些权限边界？它暴露三类核心原语：资源（只读数据项）、工具（可执行操作）、提示模板。类比一下，这大概是 AI 时代的 USB-C：接什么东西，都走同一个口。

往再远处看，还有浏览器自动化与 Computer Use——让模型直接看屏幕、点按钮、填表单，像人一样操作 GUI。这带来一个正在发生的角色反转：当智能体承担越来越多端到端工作流，人从「操作者」变成「委托者」——API、结构化数据正在成为「机器的用户界面」。书里甚至提到，一些团队开始用 DAA（日活跃智能体）来补充 DAU（日活跃用户），衡量程序化调用产生的业务价值。虽然还是新兴实践，但方向值得记住：未来的软件，要同时优化人类可用性和机器可读性。

一个人的公司：多智能体与斯坦福小镇

为什么不干脆造一个「全能单体」？答案很直接：上百个技能描述塞进一个上下文窗口，模型会变得极其迟钝、容易幻觉。于是多智能体协作（MAS）成为主流——社会化分工，每个智能体只精 3-5 个核心技能，精度极高。

图 4 · 多智能体的三种协作拓扑

三种主流拓扑各有适用边界：层级式像经理带员工，目标明确、质量严控，适合标准化业务流；扁平式像圆桌头脑风暴，适合创意激发与开放探索；动态组队按任务实时招募专家，最灵活，工程也最复杂。无论哪种，都要配三样东西：明确的角色定义（Persona、权限、工具边界）、把最佳实践固化下来的 SOP 流程、以及关键节点的人工介入——从预设检查点审批、低置信度自动升级人类，到全程可观测、随时暂停注入指令。人类的角色，会随着智能体能力增强，从「审批者」逐步走向「监督者」和「协作者」。

那个著名实验值得单独讲：斯坦福小镇。研究者在受《模拟人生》启发的沙盒里放入 25 个智能体，每人有姓名、职业、性格和人际关系，有日夜循环的时间系统。每个智能体维护一条按时间排序的记忆流（检索时综合相关性、近因性、重要性三要素打分），并定期「反思」——从琐碎记忆里提炼高阶结论，比如把「上午和 Maria 喝咖啡、她提到很忙、下午看她独自散步很累」提炼成「Maria 压力很大，下次见面该主动关心她」。

最有说服力的涌现案例是那个情人节派对：研究者只给一条初始设定——某智能体想办一场情人节派对。接下来两天里，智能体们自行传播邀请、讨论是否参加、在过程中结识新朋友相约同行，最后在正确的时间协调到场。没有导演，社会行为自己长了出来。

顺带纠正一个中文圈流传很广的错误：这个案例是情人节派对，不是生日派对。另一个容易被忽略的事实是：涌现不是「多调几次 API」就能等来的，它依赖大容量上下文与精准记忆检索、高并发调度、全局状态一致性这些前置的工程条件。浪漫的涌现背后，全是枯燥的基建。

会进化：如果每天犯同样的错，就不是智能

智能体的学习应该是终身的、持续的，而不是像预训练那样一次性定格。路径是一条闭环：行动 → 评估 → 反思 → 学习。

对齐层面，RLHF（人类反馈强化学习）把人类偏好内化进模型；RLAIF 用 AI 反馈降低标注成本；过程监督值得一提——奖励正确的推理步骤，而不只是奖励正确结果，这直接命中了「蒙对答案但过程错误」的作弊空间。评估层面，单看「成功率」远远不够，还要看轨迹准确率、执行效率、幻觉率；AgentBench、GAIA、SWE-bench 这类标准化基准负责横向比较，LLM-as-a-Judge 则让自动评审执行轨迹成为可能。

最有生产味的概念是数据飞轮：线上监控发现问题 → 把坏例转化成测试用例 → 驱动下一轮迭代。智能体不是发布即结束的静态软件，而是必须持续喂养的活系统。再配合推理能力的升级——推理增强模型通过扩展「思考时间」换准确率，工程上按任务复杂度做分层推理（简单任务走快思考，关键决策走慢思考），成本和质量才有平衡点。

落地：先问该不该建智能体

多数「想要智能体」的需求，
用确定性自动化能交付得更好。

逻辑很硬：好的自动化每一步只有一个决策点、每个分支有明确规则，行为可预测、可回放、可审计；智能体把一堆决策点交给概率模型，可靠性随决策空间的扩大指数级变难。所以工程纪律是：能用确定性形态锁死的决策，就不要留给模型即兴发挥。而且形态判决是滚动的——今天只配用受约束工作流的任务，随着模型可靠性越过阈值，明年可能就值得放开成自主智能体。

在「全静态」和「全自动」之间，五个成熟的编排模式：

模式

怎么运转

适用场景

提示词链

线性流水线，上一步输出喂下一步

大纲→初稿→润色的文案生成

路由分发

先分类，再导向不同流程

客服分流、简单问题给小模型

并行执行

切片并行或多数投票

同时查安全/性能/风格，投票减幻觉

编排者-工作者

中心编排者动态拆任务、派工人

跨文件编码、多源信息调研

评估者-优化者

生成→评审→修改的循环

高质量翻译、复杂代码（须设终止条件）

配套的还有一整套 AgentOps 纪律：防御式编程（设时间预算和最大迭代次数，迭代耗尽时返回历史最优而非报错）、沙箱隔离代码执行、提示词缓存与模型级联控成本、用 OpenTelemetry 统一追踪、每个失败都要被处理、任何重大决策留人工节点。

把这套逻辑推进到编程本身，出现了一个范式转移：从 Vibe Coding 到 Agentic Coding。

维度

Vibe Coding

Agentic Coding

核心理念

自然语言生成代码，快速出活

AI 作为自主开发伙伴，跑完整闭环

代码库理解

单文件 / 片段

全项目索引

任务分解

用户手动拆

智能体自主拆

错误修复

用户描述问题

智能体自己发现并修复

适用场景

原型验证、黑客马拉松、学习

生产级开发

主要风险

技术债、幻觉污染、安全隐患

需要工程化流程约束

Vibe Coding 适合 PoC，但绝不能把未经严谨审查的代码直接推向生产。进入高可用、安全审查、性能调优的深水区，开发者必须切换到系统化的工程控制流，并对生成的每一行逻辑负责。对应的认知转变有四条：从「我写代码」到「我指导 AI 写代码」，从「掌握语法」到「掌握意图表达」，从「手动调试」到「设计验证流程」，从「个人技能」到「人机协作效率」。

Agent 时代，代码退化成执行载体，人的思考媒介变成目标 + 上下文 + 约束。写代码这件事的重心，正在从「记录怎么做」转向「让机器实现意图」。

安全、边界与通往 AGI 的路线图

能力越强，责任越大。提示词注入是这个时代的头号攻击——恶意指令藏在网页、文档甚至邮件里，等智能体「读」进去就被劫持。这本质上是 AI 版的社会工程学：人类会被钓鱼邮件骗，智能体会被投毒的数据源骗。防御没有银弹，只能四层叠加：输入过滤、模型鲁棒性、应用层护栏、架构隔离，并按零信任原则同时怀疑用户输入、外部数据和模型输出。

价值对齐的目标，不是让系统「更会说正确的话」，而是防住目标异化和奖励欺骗。伦理层面书里也说得明白：智能体造成损害，责任最终仍然落在人类与组织身上——部署方、开发方、模型提供方都要为隐私、审计和高风险动作的控制权负责。

源自 OpenAI 分级框架的五级路线图：

图 5 · 通往 AGI 的五级路线图

L1 对话者已实现，L2 推理者逐步成熟，L3 智能体正在加速落地；L4 创新者（读遍生物学论文、提出新的蛋白质折叠假设）尚未实现，L5 组织者（自主运营一家公司）还属科幻。智能体，被视为连接 L2 到 L4 的一条重要桥接方向。

几个正在发生的趋势值得留意：端侧智能体——Apple Intelligence、Gemini Nano、Phi 系列这类小模型塞进手机和 PC，几百 MB 的模型在 NPU 上就能跑，隐私、延迟、成本三头兼顾（但长链推理和复杂权限判断仍得靠云端）；具身智能——智能体终将通过机器人拥有物理身体，虽然仿真到现实的鸿沟还在；大模型即操作系统——从管理硬件到管理智能；以及开放标准与复合智能体系统——与其等单一通用模型封神，不如在本组织内把垂直领域专家智能体编排成一个「虚拟超级助手」，这是更务实、也更可控的 AGI 路径。

智能体不是更会聊天的模型，
而是被装上了手、眼和记忆、
把「说」接上「做」的闭环系统。

最后，按你自己的位置各取所需：

工程师：从 L2 做起，先把工具调用、评估闭环和可观测性跑通，再谈多智能体。技术负责人 / 管理者：立项前先过一遍「该不该建智能体」的判决，再按五站路线推进——定义自主度边界、建立成本与 ROI 基线、落实治理责任、设计可接管的人机体验、审查长期外部性。普通读者：不需要焦虑概念，把它当成能力放大器，先在低风险场景里用起来——用得越多，你越知道它的边界在哪。