有些问题,一段材料回答不了。比如“哪个团队负责存储欧盟客户发票的那个服务”,得先查第一跳:哪个服务在存这些发票;再查第二跳:这个服务归哪个团队。这就是多跳检索——后一次搜索要建立在前一次找到的事实之上。

打开网易新闻 查看精彩图片

它和另外两件事不是一回事。查询改写是在提问阶段就重写用户文本,比如多查询、HyDE,不依赖已经检索到的事实;智能体式检索增强是一套通用的工具调用控制循环,智能体可能做多跳,也可能只是把同一个搜索重试一遍。多跳检索专门指证据成链,以及第一跳就找错时的那种失败模式。

HotpotQA 这类数据集用支撑事实标注,把多跳问答的评测推成了标准做法;即便语料是私有的,生产系统也需要同样严格的溯源纪律。

迭代的固定动作

先用原始问题做混合检索,再从命中的文本块里抽取桥接要素——实体、ID、日期、约束,然后用桥接要素加上尚未填上的槽位组织下一次查询,再检索一次,可以附加元数据约束。槽位填满或跳数预算用尽就停,最后用所有支撑文本块的并集生成答案,每一跳都要能引用。

桥接要素在代码里应该是明确的对象,而不是一段含糊刷新的提示词。作者给出的结构里,一个桥接对象包含类型(如服务、团队、文档 ID)、取值、支撑文本块 ID 列表,以及来自排序器或大模型裁判的置信度。抽取函数只输出被文本块内容蕴含的桥接要素,下一次查询则由大模型根据问题、桥接要素和待填槽位来写。

链接质量很关键:优先用文本里逐字出现的标识符,比如 svc-invoice-eu,而不是“计费服务”这种有歧义的名字。

证据链要存下来

要存整条链,不能只留最后的上下文窗口。第一跳查询“欧盟客户发票存储服务”,命中文本块 C12,得到桥接服务 invoice-eu;第二跳查询“谁拥有 invoice-eu 这个服务”,命中 C88,得到团队 Payments Platform;答案同时引用 C12 和 C88。如果只保留第二跳的文本块,就说不清 invoice-eu 为什么被选中,也没法排查级联错误。

级联错误的典型样子是:第一跳返回一个看起来合理但实际错误的服务,第二跳为这个错误服务“成功”找到了一个很有把握的归属团队,最终答案读起来逻辑自洽。作者列出的缓解手段包括:

  • 保留前 k 个桥接要素而不是只取第一个,分叉出 2 到 3 条第二跳查询,做融合或让生成器比较支撑度;
  • 使用前用字符串匹配或蕴含判断核验桥接要素确实出自文本块;
  • 关键槽位尽量要求两个独立文本块的双重支撑;
  • 第一跳置信度低,或第二跳与第一跳的约束(地区、产品)矛盾时,选择弃答;
  • 限制跳数,常见是 2 到 3 跳,跳数越多错误率越是成倍放大;
  • 把最终答案的忠实性检查,与所引用文本块的并集分开做。

示例代码把跳数上限设为 2、每跳桥接要素取 3 个:每跳先取 8 条命中,抽取并核验桥接要素,没有新桥接就退出,槽位填满也退出;否则对每个桥接要素分别生成下一跳查询并检索,用倒数排名融合取前 8 条,最后带引用生成答案。

什么时候该用

答案在结构上必须依赖中间事实时才用多跳。别把它当成“让检索增强变聪明”的通用开关——延迟大致随跳数增长,级联还会制造出自信的错误。搭配上,查询改写可以用来提升第一跳的召回;只有第二跳需要换工具(SQL、工单系统)时才上智能体,并且要设预算;中间链接已经以边的方式物化时(比如归属关系图),可以用 GraphRAG,把若干跳压缩成一次邻域读取。

局限也摆在那里:公开的多跳分数不代表私有语料上的表现;大模型抽取桥接要素可能编造文本块里没有的实体,核验是必须的;分叉会让成本成倍增加,要用接近生产的跳数预算去测 p95 延迟;比较类问题(“A 和 B 哪个……”)需要显式的比较逻辑,光靠链式查找不够。