智能体能接的任务,这几年膨胀得厉害。从最早的简单文本生成,到工具调用、做决策,再到把一整件事从头跑到尾。下一步是接手开放式目标,自己一路推到完成。Hone 这类产品的出现,让人提前看到了那个未来的一角。

打开网易新闻 查看精彩图片

但在这个世界里,给智能体划范围成了要命的事。方向指错,烧掉的是成吨的 token。Hone 那套智能体配置里,一个关键动作就是给它们定义好用来优化的指标。

目标该怎么设计

LangChain 团队在做类似智能体时摸出一条规律:设计智能体的范围时,要让它在范围内干活的过程中,人类给出反馈这件事变得尽可能容易。

原因不复杂。智能体出错,很大一部分是缺了正确的上下文。要修,就得把上下文喂给它。有些上下文好办,比如接对文档、接对 API,改起来相对轻松。最难给的是那些压根没被写下来的上下文——它只能由人类专家以反馈的形式交到智能体手里。

这件事在智能体跨出可验证任务、开始和人在组织里一起做主观工作时,尤其关键。比如让智能体帮忙优化某个业务指标,像改进广告投放来提升营销表现,除了事实性上下文,还有大量细微偏好需要管住它的行为:你觉得什么听起来、看起来顺眼,你的品牌能野到什么程度。一个没法有效拿到反馈、学不会这些的智能体,很快就没用了。

反过来,如果智能体的范围设计得让人能轻松给出大量高质量反馈,那对打造一个能可靠追求长期目标的智能体帮助极大。还有一条相关经验:值得在审查智能体工作的交互体验上重投入,做得直观、顺手。智能体表现的瓶颈,常常就是它从反馈里学习的速度。所以要优化的,是反馈收集的容易程度和质量。

一个销售智能体的返工

Actively AI 给销售团队做智能体,它的第一版目标导向体验是“一个客户一个智能体”。每个智能体负责把一个潜在客户往前推,产出动作让销售代表审批。直觉上说得通:目标相对收敛、指向明确,结果也扎实。看起来关于这个客户的上下文最重要,那就围着客户来组织智能体。

跑起来之后,他们发现还有另一类重要上下文:怎么高效干活。具体说,怎么外呼、怎么回复、怎么谋划交易、该多激进、怎么在大组织里穿行。这类知识散落在多个智能体之间——你在一个客户身上学到外呼的门道,往往想搬到别的客户身上。

问题出在反馈环节。智能体盯单个客户时,销售很难高效使用它、也很难给它反馈。推进一个客户要干很多种活,这些活还常常分散在不同时间点。结果是:单个智能体任一时刻需要审的东西太少,人得在多个智能体之间来回切换;跨智能体共享学到的东西也很别扭,而这恰恰是必需的,因为它们在学同一件事。

第二版改掉了这个结构。新的目标导向智能体叫“motions”,一个 motion 就是一件具体的活,比如外呼、比如早期交易推进。这件活怎么干并没有明确定义,很多还跟某个销售代表的个人偏好有关。大量知识藏在销售脑子里,得作为反馈交给负责这个 motion 的智能体,它才能学。

因为一个 motion 是一堆相似任务的集合,销售把它们放在一起审就轻松多了。在一个任务上学到的反馈,天然能迁移到同一个 motion 里的其他任务上。反馈的范围和反馈的容易程度,就这样和智能体本身对齐了,做出强力的智能体也就容易得多。

这不等于客户上下文不重要,它当然重要。只是客户上下文往往已经被写下来,也更客观。于是 Actively 让负责收集上下文的智能体在后台跑,为每个客户攒好上下文;而真正把客户往漏斗下游推的活,交给跨多个客户工作的 motions。它们占住一段销售动作,从反馈里学得快得多,需要时再把每个客户的上下文拉进来。

以后会怎样

再往后,智能体会进化到这种程度:你只给一个目标,它自己出去优化那个目标。人类审查它们干的活很费时间,但极其值钱——那是教智能体做事、把它适配到你所在领域的方式。那些只存在于人脑子里的知识,值得被提取成容易传给智能体的形式。

要做到这一点,就得把智能体的目标对齐到人类最容易审查的东西上。这样你才能做出顺手的审查体验,榨出尽可能多的信息,让智能体持续学习,随时间变得越来越有用、越来越自主。

LangChain 的判断是:提示工程和上下文工程会消失,目标工程会留下。