斯坦福大学 Monica Lam 团队开了一门新课,叫 CS224V「Agentic AI」。课程要解决的问题很直接:怎么把不可靠的大语言模型,改造成可信赖、可追责的智能体。
这门课的技术主线,是一条自底向上搭建的「反幻觉」知识栈。从基础模型起步,逐层往上,每一层都在给模型的可信度加码。
从知识策展开始打地基
知识栈的底层是知识策展,课程里涉及 STORM 家族。再往上是自由文本 RAG,也就是检索增强。这两层处理的是同一个问题:让模型在生成之前,先拿到靠谱的素材,而不是全靠参数里的记忆硬编。
再往上走,是结构化异构数据 Agent。相比自由文本,结构化数据对模型的要求更高,也更容易验证对错。
形式化方法被摆上了台面
知识栈里还包含形式化方法。这一层和常见的 Agent 课程不太一样——它追求的不是让模型说得更流畅,而是让结果可以被验证、被追责。
课程覆盖的技术点包括:
- 基础模型层
- 知识策展(STORM 家族)
- 自由文本 RAG
- 结构化异构数据 Agent
- 形式化方法
- 任务型对话 Agent
- 元优化
从这份清单能看出课程的取向:它没有把 Agent 当成一个提示词工程问题,而是当成一个系统工程问题。幻觉不是靠一句「请勿编造」的指令就能压住的,得靠一层层的知识约束和验证机制。
任务型对话 Agent 和元优化被放在知识栈的靠上位置,说明课程认为,Agent 要真正可用,前提是底下那几层已经站得住。
对于正在做 Agent 产品的团队来说,这条自底向上的路径提供了一个参照:先解决知识从哪来、怎么验,再谈 Agent 怎么对话、怎么优化。
热门跟贴