检索质量经常不是败在索引上,而是败在查询上。用户提问时带着行话、指代不清的代词,或者用了文档里根本不会出现的措辞。查询改写是一个独立环节,作用是在把文本块读进生成器之前,先产出更好的搜索字符串或搜索向量。

打开网易新闻 查看精彩图片

先划清边界:改写可以喂给智能体或多跳流程,但它本身仍然只是“改好查询,再去检索”。

多查询扩展

做法是围绕用户问题生成若干种改写说法,对每一种分别检索,再融合结果,融合方式可以用倒数排名融合(RRF)或分数归一化。

它为什么有用:一个嵌入向量邻域很难覆盖所有表达方式,比如“PTO”“带薪休假”“假期余额”说的其实是同一件事。

代价也很直接:检索成本会变成原来的若干倍,噪声大的改写还会把垃圾结果拖进来。变体数量要设上限,控制在3到5个,并对近乎相同的字符串去重。

问题分解

把复杂问题拆成若干子问题,对每个子问题分别检索,再按顺序作答或合并证据。

例如“比较月付与年付方案的退款窗口,并引用政策版本”可以拆成两条:月付方案的退款窗口加政策版本;年付方案的退款窗口加政策版本。

分解本质上仍属于查询改写,是对搜索字符串的规划。如果每个子答案都变成下一次搜索的桥接实体,那就跨进了多跳检索的地界,代码里要把这个交接写清楚。

HyDE:假设文档嵌入

HyDE(Gao 等人提出)让大模型先写出一段假设性的答案文档,对这段文档做嵌入,再用这个假设向量去检索真实语料中的近邻。合成文本捕捉的是“相关文档可能长什么样”,当查询与文档措辞差距较大时,它能改善零样本稠密检索的效果。

生产环境有一条关键规则:假设文档不是证据。绝不能把它当作来源塞进生成器上下文,只有检索到的真实语料块及其ID才算证据。

假设文本里出现幻觉细节是预期之内的,真正给检索兜底的是嵌入这一瓶颈和真实语料的邻域。但如果语料覆盖不足,HyDE 也可能偏向流畅却错误的区域,所以必须持续测量效果。

改写、智能体与多跳的分界

  • 改写:准备更好的查询,检索模式基本是预先定好的。
  • 智能体:根据观察结果选择工具、决定是否继续。
  • 多跳:用前一批文本块中提取的事实来约束下一次检索,做实体链接,并对整条证据链打分。

如果你的“改写器”开始在没有预算约束的情况下递归调用工具,那就该给它改名了,它已经变成了智能体。

一个实例:怎么选策略

问题:“生产环境里怎么给支付API轮换密钥?”

如果文档里混着“密钥轮换”“密钥滚动”“凭证刷新”等说法,先试多查询。如果答案既需要轮换步骤又需要归属与值班信息,加上分解。如果用户措辞随意而文档是正式运维手册,试 HyDE。如果搜索之后还必须按ID取回某份特定手册、再查第二个系统的wiki,升级到智能体。如果第一跳发现“支付API使用Vault路径X”,第二跳必须打开路径X的Vault手册,那就用多跳。

局限

  • 每一次改写都在检索开始前消耗大模型token。
  • 糟糕的改写会放大检索错误,尤其是丢掉约束条件的分解。
  • HyDE 的假设文本可能强化语料缺口,它不会凭空造出缺失的文档。
  • 只融合不重排,可能浮出对哪一路意图都匹配平平的“平均”文本块,质量要求高时要配上交叉编码器重排。