假设你正在 Perplexity 的 ML Engineer 面试中，面试官问道：

“你的 RAG 系统在生产环境中出现幻觉问题。你会如何诊断是检索器还是生成器出了问题？”

给出的答案，值得逐字学习！

核心问题：先明白 RAG 系统为什么会“胡说八道”？

RAG 系统由两部分组成：

检索器（Retriever）和生成器（Generator），如果系统输出不靠谱，可能是这两部分中的一个或两个出了问题。文章强调，RAG 系统的质量是检索和生成的“乘法”关系——任何一个部分崩了，整个系统就废了。简单说，好的语言模型救不了烂检索，完美的检索也救不了差劲的生成。

如何诊断问题？

要搞清楚是检索器还是生成器的问题，得用不同的指标分别检查它们，而不是笼统地看“准确率”这种模糊指标。

文章提出了一个清晰的诊断框架：

1. 检索器的指标（Retriever Metrics）

检索器的任务是找到正确的上下文信息，关键看以下三点：

· 上下文相关性（Contextual Relevancy）：检索到的内容中有多少是真正相关的？

· 上下文召回率（Contextual Recall）：是否找回了所有需要的关键信息？（漏掉重要细节会导致幻觉）

· 上下文精确度（Contextual Precision）：相关内容是否排在前面，垃圾信息是否被压到后面？ 为什么召回率最重要？

如果召回率低，哪怕检索到的内容很精准，系统也可能因为缺了关键信息而胡乱生成。比如，检索器只抓到一半的事实，生成器就会“脑补”错误答案，显得很自信但完全不对。

2. 生成器的指标（Generation Metrics） 生成器的任务是根据检索到的上下文生成靠谱的回答

关键看：

· 忠实度（Faithfulness）：输出是否与检索到的信息一致？有没有自相矛盾？

· 答案相关性（Answer Relevancy）：回答是否切题？有没有跑偏？

· 定制化指标（Custom Metrics）：输出是否符合特定格式或风格要求？ 诊断公式

· 高忠实度 + 低相关性 → 检索器有问题（找到的内容不相关，生成器无从下手）。

· 低忠实度 + 高相关性 → 生成器有问题（检索内容没问题，但生成器没用好）。

· 两者都低 → 整个系统都有问题，赶紧全面检查！

· 两者都高 → 系统整体没问题，但可能有边缘情况需要排查。

3.生产环境中的应对策略

在实际生产中，RAG 系统的维护需要更系统化的方法。文章指出，高级工程师和初级工程师的区别在于评估和监控的方式

初级工程师的误区：

· 简单地端到端测试，祈祷系统不出问题。

· 用笼统的“准确率”指标，忽视组件级问题。

高级工程师的做法：

1. 组件级评估：分别监控检索器和生成器的指标，找出问题根源。

2. 自动化 CI/CD 评估：在开发和部署流程中嵌入自动化测试，确保每次更新不会引入新问题。

3. 生产环境监控：实时监控系统表现，发现问题及时报警。

4. 异步批量评估：定期分析生产数据，捕捉模型漂移（性能随时间下降）。

不同场景的指标要求 不同应用场景对RAG系统的要求不同，指标阈值也不一样：

· 客户支持：忠实度 > 0.9（不能给错信息）。 · 研究助手：上下文召回率 > 0.8（信息要全面）。 · 代码补全：答案相关性 > 0.9（必须紧扣主题）。 · 法律文档：所有指标 > 0.95（零容错）。

面试中的“杀手锏”回答

一个高分回答技巧：用 LLM-as-a-judge 来评估系统。比如，用 GPT-4 检查生成答案和检索上下文是否一致，跟踪分数分布来发现模型漂移。这显示你了解前沿的评估技术。

回答面试问题“如何在生产中实现评估”时，千万别说“手动测试”。正确答案是：

· 在CI/CD中加入自动化组件级评估。

· 设置实时监控和报警机制。

· 对生产流量进行异步批量评估。

核心总结

RAG 系统出问题，80% 是评估没做好，20% 才是架构问题。想在面试中脱颖而出，关键是：

1. 理解检索器和生成器的独立指标，分开诊断。

2. 强调上下文召回率对避免幻觉的重要性。

3. 展示你对生产环境监控和自动化评估的理解。

4. 用具体场景的指标要求证明你的实战经验。

最后，提到像 Perplexity、Gemini、Claude 这样的高质量 RAG 系统，建议“逆向研究”它们的表现，思考它们如何平衡检索和生成。

“关注我，一个产品经理的创业故事”

每日案例拆解库，AI等产品打卡群

我创建的产品设计打卡社群，加入后365天，每天体验一款APP。提升产品设计能力，同时有1300份体验报告帮助你找到竞品。

在这里你可以随时查询到你想找的各类竞品行业APP，无须自己亲自下载就可以马上得到APP的一手产品优化、交互设计、功能描述信息。

从优化&建议、商业模式、运营、功能描述、交互设计、产品定位至少6个维度，体验一款应用。

平均1天1块钱，扫码购买即可加入

连续体验48款应用，通过后原路退回

报名后添加星球助理

PMTalk123