RAG 检索策略全面解析
RAG(Retrieval-Augmented Generation,检索增强生成)的核心原则:检索质量决定生成质量。
本文从索引构建、查询优化、检索方式、高级架构、上下文处理、评估体系六大维度系统梳理所有主流策略,并给出选型路径。
目录
一、索引构建策略
检索质量从索引阶段就开始决定,好的索引结构是高质量检索的前提。
1.1 文本分块(Chunking)
文本分块是最基础的问题,策略选择直接影响语义完整性:
| 策略 | 说明 | 适用场景 |
|---|---|---|
| 固定大小分块 | 按固定字符/Token 数切割 | 快速原型,简单场景 |
| 语义/段落分块 | 按自然段落或语义边界切割 | 结构清晰的文档 |
| 滑动窗口分块 | 相邻块有重叠区域,减少边界信息丢失 | 避免关键信息被截断 |
| 递归分块 | 先按大粒度分,再逐层细分 | 层次丰富的长文档 |
| Proposition-based Chunking | 将文本分解为原子命题句,粒度极细 | 精确匹配、问答场景 |
1.2 索引增强
在原始 chunk 之外附加额外信息,提升检索命中率:
- 假设问题生成:为每个 chunk 生成若干可能的问题,检索时用问题匹配问题,缩小语义鸿沟。
- 摘要附加:为每个 chunk 生成摘要,构建”摘要+原文”双层索引。
- 层次化索引:构建”文档摘要层 + 原始 chunk 层”的父子结构,先粗后细。
1.3 图索引(Knowledge Graph)
将文档中的实体(人名、公司、概念)作为节点,关系(任职、收购、属于)作为边,构建知识图谱。检索时通过图遍历顺着关系链查找信息,尤其擅长处理多跳关系。
二、查询理解与改写策略
原始查询往往有歧义或表达不佳,在检索前对查询进行加工,是提升召回质量的关键一步。
2.1 查询重写(Query Rewriting)
用 LLM 将用户原始问题改写为更规范、独立的检索表达式。在多轮对话场景中尤为重要——将含有代词指代(“它的股价”)或上下文依赖的问题,改写为可独立理解的完整查询。
2.2 查询扩展(Query Expansion)
生成多个语义相关的查询变体,分别执行检索后合并去重,扩大召回范围。代表方法:Multi-Query Retrieval。
2.3 HyDE(Hypothetical Document Embeddings)
核心思想:先生成假设性答案,再用答案去检索文档。
用户问题 → LLM 生成"假设性答案" → 用答案的 Embedding 检索真实文档
原因:答案的语义向量通常比问题向量更接近真实文档,可以有效弥合”问题与文档之间的语义鸿沟”。
2.4 查询分解(Query Decomposition)
将复杂问题拆解为多个简单子问题,分别检索、分别回答,再聚合结果。适合多跳推理场景。
示例:
原始问题:“比较 Python 和 Java 在机器学习领域的优缺点”
子问题 1:“Python 在机器学习领域的优缺点”
子问题 2:“Java 在机器学习领域的优缺点”
代表方法:IRCoT、ReAct。
2.5 Step-Back Prompting(回退提示)
让模型先生成更抽象的上位问题,再用这个更泛化的问题去检索背景知识,适合需要大量背景知识才能回答的问题。
具体问题:"薛定谔方程的推导需要哪些前置知识?"
回退问题:"量子力学的基础理论框架是什么?"
三、基础检索方式
3.1 按向量化方式分类
| 方式 | 原理 | 优点 | 缺点 |
|---|---|---|---|
| 稀疏检索(BM25/TF-IDF) | 基于关键词词频统计 | 精确匹配强,速度快,可解释 | 无法处理同义词,存在词汇鸿沟 |
| 稠密检索(Dense Retrieval) | 深度学习语义向量相似度 | 语义理解强,泛化好 | 对专有名词/罕见词不敏感,计算资源消耗大 |
| 混合检索(Hybrid Retrieval) | 稀疏 + 稠密加权融合 | 兼顾精确匹配与语义理解 | 权重调参有一定复杂度 |
| 多向量检索(ColBERT) | Token 级别细粒度交互 | 精度高 | 存储开销大 → 深度解析 |
混合检索融合方式:
- RRF(Reciprocal Rank Fusion):按名次倒数加权,简单鲁棒
- 加权线性组合:如
0.3 × BM25得分 + 0.7 × 向量相似度
🏭 工业界实践:混合检索是目前最主流的基线方案,能解决约 80% 的场景需求。
3.2 按检索粒度分类
小块检索-大块返回(Small-to-Big / Parent-Child Retrieval)
用小粒度 chunk 检索(精确命中)→ 返回其父级大 chunk 给 LLM(保证上下文完整)
句子窗口检索(Sentence Window)
检索命中某个句子后,返回该句子前后若干句的上下文窗口,兼顾精度与完整性。
四、检索后处理:重排与压缩
基础检索是”粗排”,召回的候选数量多但质量参差不齐;检索后处理是”精排”,决定最终送入 LLM 的内容质量。
4.1 重排序(Reranking)
没有重排的 RAG 系统,信息利用率往往不高。
召回阶段:向量检索 + BM25 → Top-K 候选(如 50~100 条)
精排阶段:Cross-Encoder 精读打分 → Top-N 最终结果(如 5~10 条)
Cross-Encoder vs Bi-Encoder 对比:
| Bi-Encoder(向量召回) | Cross-Encoder(重排) | |
|---|---|---|
| 计算方式 | 问题与文档分别编码后计算相似度 | 问题与候选文档拼接后联合编码 |
| 速度 | 快(适合大规模召回) | 慢(只适合少量精排) |
| 精度 | 一般 | 高 |
常用重排模型:Cohere Rerank、BGE Reranker。
4.2 信息压缩(Context Compression)
对检索到的 chunk 进行摘要或关键信息抽取,只保留与问题相关的部分,减少送入 LLM 的噪声,为更重要的信息腾出上下文窗口。
五、高级检索架构
5.1 层次化检索(Hierarchical Retrieval)
第一步:检索文档摘要层 → 确定最相关的文档
第二步:在相关文档内部 → 检索细粒度 chunk
减少噪声,提升检索效率,避免在不相关文档中浪费精排资源。
代表实现:LlamaIndex 的 Summary Index + Vector Index 组合。
5.2 图检索(Graph RAG)
基于知识图谱进行图遍历检索,通过实体关系链找到多跳相关信息。
- 擅长处理:多跳关系问答、结构化知识
- 代表工作:微软 GraphRAG
5.3 迭代检索(Iterative RAG / FLARE)
生成内容 → 判断信息是否充足 → 不足则生成新查询 → 再次检索 → 继续生成
“边想边查”而非”查完再想”,适合长文本生成场景。当模型对某段生成不确定时,主动触发检索补充信息。
5.4 递归检索(Recursive Retrieval)
检索到文档后,若发现文档中引用了其他数据源或链接,则根据新线索发起第二轮检索,如此递归。适合处理具有多层链接的文档(如维基百科)。
5.5 自适应检索(Adaptive RAG)
根据问题复杂度动态决定检索策略:
简单问题 → 直接回答(不检索)
中等问题 → 单次检索
复杂问题 → 多步检索
让 LLM 自主判断”是否需要检索”,模型参数中已有相关知识时直接回答;遇到时效性或未知领域问题时启动检索。
5.6 Self-RAG
模型通过特殊 token 实现自反思,自主判断三个问题:
- 是否需要检索?
- 检索到的结果是否与问题相关?
- 生成内容是否有文档依据?
5.7 回溯检索(Backtracking Retrieval)
当后续推理遇到矛盾或信息不足时,系统能回溯到之前的检索节点,修正查询策略或选择不同的文档片段,重新生成答案。进阶形式结合树状搜索,不局限于单一推理路径。
5.8 Agentic RAG
将检索作为 Agent 的一个工具,通过 ReAct、Plan-and-Execute 等框架实现多步推理与检索的交替执行,赋予系统最强的决策能力。
六、上下文处理策略
检索到内容后,如何组织和处理同样重要。
6.1 Lost in the Middle 问题
研究表明,LLM 对长上下文中间位置的内容关注度显著低于首尾。因此:
- 重要内容应放在上下文的首部或尾部
- 控制整体上下文长度,避免无效冗余
6.2 上下文重排序
在输入 LLM 前对检索到的段落重新排序,将最相关的内容放在首尾位置,缓解 Lost in the Middle 问题。
6.3 上下文压缩
对检索到的多个文档段落进行去重、摘要与聚合,只保留关键信息,同时减少噪声和 Token 消耗。
七、评估体系
好的检索策略需要量化评估,以下是核心评估指标与工具。
7.1 检索侧指标
| 指标 | 说明 |
|---|---|
| Hit Rate(命中率) | Top-K 结果中是否包含正确文档 |
| MRR(平均倒数排名) | 正确文档排名的倒数均值,衡量排名质量 |
| Recall@K | 前 K 个结果中正确文档的召回比例 |
| NDCG | 归一化折损累积增益,综合排名与相关性 |
7.2 端到端指标
| 指标 | 说明 |
|---|---|
| Faithfulness(忠实度) | 生成内容是否忠实于检索结果,无幻觉 |
| Answer Relevancy(答案相关性) | 最终答案是否回答了用户问题 |
| Context Precision | 检索结果中相关内容的精确度 |
| Context Recall | 回答所需的关键信息是否都被检索到 |
7.3 评估框架
- RAGAS:专为 RAG 系统设计的端到端评估框架
- TruLens:基于 LLM 的评估与追踪框架
- DeepEval:支持多维度指标的测试框架
八、选型指南
8.1 按问题类型选策略
问题类型 → 推荐检索策略
──────────────────────────────────────────────────────
简单事实问答 → 混合检索 + Rerank
多跳复杂推理 → 查询分解 + 迭代检索 / 递归检索
问题含歧义/上下文依赖 → 查询重写 + HyDE
需要大量背景知识 → Step-Back + HyDE
结构化/实体关系知识 → Graph RAG
长文档精确问答 → 层次化索引 + Small-to-Big
实时性/自我纠错需求 → Self-RAG / Adaptive RAG
极复杂多步推理场景 → Agentic RAG
8.2 按落地阶段推荐路径
阶段一(起步):混合检索 + 索引优化
→ 解决约 80% 的场景,建立稳定基线
阶段二(提升精度):+ 重排序 + 查询优化策略(重写/HyDE)
→ 显著提升答案准确率,降低幻觉
阶段三(解决复杂问题):+ 查询分解 + 迭代/递归检索
→ 支持多跳推理和复杂知识组合
阶段四(追求极致智能):+ Adaptive RAG / Self-RAG / Agentic RAG
→ 系统具备自主决策、自我纠错能力
总结
RAG 检索策略的演进脉络:
简单向量检索
→ 混合检索(稀疏 + 稠密)
→ 召回 + 重排(两阶段精排)
→ 查询增强(重写、HyDE、分解)
→ 迭代 / 自适应检索
→ Agentic RAG(检索即工具)
三个核心原则:
- 召回阶段:保证覆盖率(Recall),宁可多捞,不要漏掉
- 精排阶段:保证精确度(Precision),严格筛选相关内容
- 上下文处理:减少噪声,合理组织,充分利用 LLM 的上下文窗口
实践中往往是多种策略的组合使用,没有银弹,根据具体场景的数据特点、延迟要求和资源约束灵活选型。