上周和一个架构师朋友聊天,他说最近特别焦虑:新框架太多了,根本学不过来,怕跟不上时代。
我特别理解他。2023年我也是这样,看到什么新东西都想试。但现在回头看,我当年的焦虑完全搞错了重点。
如果你现在也在担心"新技术太多学不过来",先停下来。这篇文章不会给你列一堆必学清单,我只想分享一件事:带团队落地AI编程这两年,我真正踩过的坑,和哪些能力真的值得花时间。
这些能力不追热点,但我敢说,半年后、一年后你还在用。
一个真实的故事
2023年底,我和团队在追新框架这件事上踩了大坑。
那几个月,我们看到什么新框架都想试:LangChain出来了,学!AutoGPT火了,上!Cursor发布了,装!几乎每周都有新东西要试。
结果三个月后,团队最大的收获不是生产力提升,而是知识库里的框架清单越来越长,但真正能在项目里稳定用上的,几乎没有。
更痛苦的是,每次模型升级,之前辛辛苦苦集成的方案就要重新适配;每次供应商API改版,半夜都要起来修bug。
那时候我才明白一件事:我们追的不是能力,是新闻。
2024年,我们换了策略。不再追新框架,专注于那些"半年后还重要"的能力。效果比我想象的好太多。团队真正用起来的能力越来越多,踩的坑越来越少,AI成本反而明显下降。
所以今天我想分享的,不是什么高大上的理论,就是这两年真金白银换来的7个能力。
第一件被忽视的事:上下文怎么管
很多人把上下文窗口当成"能塞多少东西"的问题,觉得越大越好。但这完全错了。
**上下文窗口更像运行时内存,不是硬盘。**你往内存里塞一堆不常用的东西,系统就会卡。Agent也一样,你往上下文窗口里塞一堆无关信息,它就开始胡言乱语。
我见过最典型的翻车案例:团队为了"让Agent理解整个项目",把几千页文档一股脑塞进系统提示词。结果呢?Agent开始产生幻觉,回答和文档对不上,甚至编造不存在的内容。
后来我复盘了好几次,才发现问题出在哪:密度太低。
真正有用的做法,把上下文分成三层:
第一层是常驻层。放那些真正稳定、每次任务都要用到的信息,比如项目的基本规范、常用的工具定义、核心的架构约定。这一层要尽量精简,因为会被缓存。
第二层是任务层。放当前任务真正需要的信息,比如当前目标是什么、正在处理哪些文件、最近做了什么操作、下一步要做什么。这一层要保持干净,随时可以扔掉历史包袱。
第三层是归档层。放那些体量大、不常用的信息,比如历史文档、大型配置文件、过往的trace日志。需要的时候按需读取,不要长期驻留窗口。
这三层分得越干净,Agent的表现就越稳。
第二件踩坑的事:工具不是越多越好
2024年初,我们犯了一个特别典型的错误:给Agent接了二十多个工具。当时想法特别美好:工具越多,能力越强嘛。
但现实很骨感。工具一多,Agent就开始在相似工具之间犹豫不决。要搜索代码,用grep还是ripgrep还是semantic search?要读取文件,用Read还是直接用bash cat?要执行测试,用pytest还是npm test还是自定义runner?
结果就是:Agent的决策时间变长,错误率上升。每次看trace都要花半天才知道它到底调了哪个工具。
后来我们做了减法,把二十多个工具砍到7个:搜索工具、读取工具、编辑工具、执行工具、提问工具、状态工具、验证工具。
你猜怎么着?效果居然更好了。
后来我想明白了,工具设计有个很重要的原则:每个工具的职责要清晰,边界要明确。如果一个工具既做A又做B,模型就会困惑;如果一个工具的参数有10个,模型就不知道填什么;如果一个工具的返回有一万字,上下文就会被冲垮。
好的工具设计,应该像给实习生写操作手册:什么时候该用这个工具?用之前要准备什么?参数填什么值?会得到什么结果?失败了怎么办?有什么风险要注意?
把这些写清楚,模型才能用好工具。
第三件特别重要的事:别靠体感判断
AI最麻烦的地方在于,它很少直接报错,而是给你一个"看起来像答案的答案"。
我见过太多这样的翻车:生成的代码能跑,但第二天就被同事删了,因为质量太差;回复很得体,但用户还是在反复追问,因为没解决问题;报告格式完美,但结论完全经不起推演。
如果你只靠体感判断"Agent变聪明了",特别容易被骗。
靠谱的做法是建立评估体系。不用搞得很复杂,从50个真实案例开始就够了。从历史的trace里挑选50个典型任务,标注每个任务的正确答案,每次改动prompt、换模型、调工具,都跑一遍,记录通过率、失败类型、错误分布。
这么做的好处是:你能清楚地看到改动的真实影响。“这次模型升级,哪些任务变好了?”“改了工具描述后,误用率降了吗?”“压缩上下文后,有没有丢掉关键信息?”
没有这层数据,团队讨论就很容易变成:“我觉得新模型更聪明”“但我感觉有时候反而变笨了”“可能要看具体场景吧”。这种讨论永远聊不出结果。
有数据就不一样了:"新模型在代码生成任务上提升了12%,但在长任务理解上下降了8%。"下一步该怎么做就很清楚了。
第四件差点翻车的事:Harness比想象的重要
2024年中,我们试过让Agent独立完成一个完整的功能开发。第一周特别兴奋,第二周开始出问题,第三周彻底失控。
问题出在哪?我们只关注了模型,忽略了Harness。
Harness是什么?简单说就是模型外面的那套运行环境。它负责每次任务的上下文怎么组织、工具调用怎么鉴权和限流、失败后怎么重试或回滚、结果怎么验证和记录、成本怎么观察和控制、日志怎么保存和检索。
这些事情听起来不性感,但直接决定了Agent能不能在生产环境里跑起来。
我们有三个教训,每一个都是真金白银换来的:
教训1:没有隔离的Agent很危险
一开始我们让Agent直接在生产代码库上操作。有次它改错了关键文件,整个服务挂了半小时。后来我们用了worktree隔离,所有改动先在隔离环境做,验证通过后才合并回来。
教训2:没有trace的Agent是黑盒
Agent跑失败了,但不知道它为什么失败。是工具调用错了?还是理解错了?还是执行出错了?后来我们给每个任务都生成完整trace,记录每一步操作、每次工具调用、每个决策点。排查问题的效率明显提升。
教训3:没有成本控制的Agent会烧钱
有个月我们发现AI成本失控式暴涨,查下来是某个Agent陷入了错误重试循环。后来我们给每个任务都设置了预算上限,超预算自动暂停。
这三个教训,现在想起来还是后怕。但它们让我明白一件事:模型决定能力上限,Harness决定能不能用。
最后三件事,我放一起说
多Agent协作,别急着上
2025年初,"多Agent协作"成了热点。很多团队开始设计"虚拟公司"架构:有个PM Agent负责需求,有个开发Agent负责编码,有个测试Agent负责质量,有个运维Agent负责部署。
听起来很美好,但90%的团队第一步就迈错了。
多Agent的核心问题不在"角色",而在"协作协议"。两个Agent同时改一个文件,怎么避免冲突?Agent A的任务依赖Agent B的结果,怎么同步?某个Agent失败了,其他Agent要知道吗?谁来决定?
我们的做法很笨但很稳:先让单Agent跑稳,能独立完成任务、遇到问题会求助、失败后能恢复、结果可验证,这些都没问题再考虑下一步。然后明确上下文边界,哪些任务可以独立做、哪些任务需要共享状态、哪些任务有依赖关系。最后设计协作协议。
别追新闻,追不变的
那些会变的东西——框架、模型、热点新闻——让它们变去吧。
你要抓住的是那些不会变的:上下文怎么管理才干净、工具怎么设计才稳定、评估怎么做才客观、Harness怎么搭才可靠、经验怎么沉淀才可复用。
这些东西半年后、一年后还在用,它们才是真正的资产。别被新闻流带着跑。静下来,把基本功练好,比追十个热点有用得多。
人机协作,设计比技术重要
2026年的架构师,不是要和AI比技术,而是要学会怎么让AI帮你更好地完成工作。
不是所有任务都适合交给AI。重复性高、规则明确、可验证的任务,交给AI;需要判断力、创造力、责任心的任务,自己来。
不是所有AI生成的结果都直接用。AI生成初稿,你来review;AI给出方案,你来决策;AI执行操作,你来兜底。
架构师的角色,正在从"自己干所有事情"变成"设计人机协作的流程,让AI帮你高效完成80%的工作,自己聚焦在20%的关键判断上"。
回到开头的问题:2026年,架构师最该补的能力是什么?
我的回答是:学会给AI设计一个可靠的工作环境。
这个环境里有上下文、有工具、有状态、有权限、有评估、有trace,也有一套不断清理旧补丁、能适配新模型的运行底座。
这些东西看着都不刺激,但它们会留下来。
框架会换,模型会换,榜单会换;只要Agent还要进入真实系统,去读上下文、调工具、写状态、跑循环、接受评估、承担权限风险,这些工程能力就会继续承重。
架构师不用追每个新名词。更重要的是分得分哪些会留下来,然后把它们做成团队资产。
这不是最热闹的一条路,但对要把Agent放进生产系统的人来说,可能是更耐用的那条。
热门跟贴