RAG 检索策略全面解析

RAG(Retrieval-Augmented Generation,检索增强生成)的核心原则:检索质量决定生成质量。
本文从索引构建、查询优化、检索方式、高级架构、上下文处理、评估体系六大维度系统梳理所有主流策略,并给出选型路径。


目录

  1. 索引构建策略
  2. 查询理解与改写策略
  3. 基础检索方式
  4. 检索后处理:重排与压缩
  5. 高级检索架构
  6. 上下文处理策略
  7. 评估体系
  8. 选型指南

一、索引构建策略

检索质量从索引阶段就开始决定,好的索引结构是高质量检索的前提。

1.1 文本分块(Chunking)

文本分块是最基础的问题,策略选择直接影响语义完整性:

策略说明适用场景
固定大小分块按固定字符/Token 数切割快速原型,简单场景
语义/段落分块按自然段落或语义边界切割结构清晰的文档
滑动窗口分块相邻块有重叠区域,减少边界信息丢失避免关键信息被截断
递归分块先按大粒度分,再逐层细分层次丰富的长文档
Proposition-based Chunking将文本分解为原子命题句,粒度极细精确匹配、问答场景

1.2 索引增强

在原始 chunk 之外附加额外信息,提升检索命中率:

  • 假设问题生成:为每个 chunk 生成若干可能的问题,检索时用问题匹配问题,缩小语义鸿沟。
  • 摘要附加:为每个 chunk 生成摘要,构建”摘要+原文”双层索引。
  • 层次化索引:构建”文档摘要层 + 原始 chunk 层”的父子结构,先粗后细。

1.3 图索引(Knowledge Graph)

将文档中的实体(人名、公司、概念)作为节点,关系(任职、收购、属于)作为边,构建知识图谱。检索时通过图遍历顺着关系链查找信息,尤其擅长处理多跳关系。


二、查询理解与改写策略

原始查询往往有歧义或表达不佳,在检索前对查询进行加工,是提升召回质量的关键一步。

2.1 查询重写(Query Rewriting)

用 LLM 将用户原始问题改写为更规范、独立的检索表达式。在多轮对话场景中尤为重要——将含有代词指代(“它的股价”)或上下文依赖的问题,改写为可独立理解的完整查询。

2.2 查询扩展(Query Expansion)

生成多个语义相关的查询变体,分别执行检索后合并去重,扩大召回范围。代表方法:Multi-Query Retrieval。

2.3 HyDE(Hypothetical Document Embeddings)

核心思想:先生成假设性答案,再用答案去检索文档。

用户问题 → LLM 生成"假设性答案" → 用答案的 Embedding 检索真实文档

原因:答案的语义向量通常比问题向量更接近真实文档,可以有效弥合”问题与文档之间的语义鸿沟”。

2.4 查询分解(Query Decomposition)

将复杂问题拆解为多个简单子问题,分别检索、分别回答,再聚合结果。适合多跳推理场景。

示例:

原始问题:“比较 Python 和 Java 在机器学习领域的优缺点”
子问题 1:“Python 在机器学习领域的优缺点”
子问题 2:“Java 在机器学习领域的优缺点”

代表方法:IRCoT、ReAct。

2.5 Step-Back Prompting(回退提示)

让模型先生成更抽象的上位问题,再用这个更泛化的问题去检索背景知识,适合需要大量背景知识才能回答的问题。

具体问题:"薛定谔方程的推导需要哪些前置知识?"
回退问题:"量子力学的基础理论框架是什么?"

三、基础检索方式

3.1 按向量化方式分类

方式原理优点缺点
稀疏检索(BM25/TF-IDF)基于关键词词频统计精确匹配强,速度快,可解释无法处理同义词,存在词汇鸿沟
稠密检索(Dense Retrieval)深度学习语义向量相似度语义理解强,泛化好对专有名词/罕见词不敏感,计算资源消耗大
混合检索(Hybrid Retrieval)稀疏 + 稠密加权融合兼顾精确匹配与语义理解权重调参有一定复杂度
多向量检索(ColBERT)Token 级别细粒度交互精度高存储开销大 → 深度解析

混合检索融合方式:

  • RRF(Reciprocal Rank Fusion):按名次倒数加权,简单鲁棒
  • 加权线性组合:如 0.3 × BM25得分 + 0.7 × 向量相似度

🏭 工业界实践:混合检索是目前最主流的基线方案,能解决约 80% 的场景需求。

3.2 按检索粒度分类

小块检索-大块返回(Small-to-Big / Parent-Child Retrieval)

用小粒度 chunk 检索(精确命中)→ 返回其父级大 chunk 给 LLM(保证上下文完整)

句子窗口检索(Sentence Window)

检索命中某个句子后,返回该句子前后若干句的上下文窗口,兼顾精度与完整性。


四、检索后处理:重排与压缩

基础检索是”粗排”,召回的候选数量多但质量参差不齐;检索后处理是”精排”,决定最终送入 LLM 的内容质量。

4.1 重排序(Reranking)

没有重排的 RAG 系统,信息利用率往往不高。

召回阶段:向量检索 + BM25 → Top-K 候选(如 50~100 条)
精排阶段:Cross-Encoder 精读打分 → Top-N 最终结果(如 5~10 条)

Cross-Encoder vs Bi-Encoder 对比:

Bi-Encoder(向量召回)Cross-Encoder(重排)
计算方式问题与文档分别编码后计算相似度问题与候选文档拼接后联合编码
速度快(适合大规模召回)慢(只适合少量精排)
精度一般高

常用重排模型:Cohere Rerank、BGE Reranker。

4.2 信息压缩(Context Compression)

对检索到的 chunk 进行摘要或关键信息抽取,只保留与问题相关的部分,减少送入 LLM 的噪声,为更重要的信息腾出上下文窗口。


五、高级检索架构

5.1 层次化检索(Hierarchical Retrieval)

第一步:检索文档摘要层 → 确定最相关的文档
第二步:在相关文档内部 → 检索细粒度 chunk

减少噪声,提升检索效率,避免在不相关文档中浪费精排资源。

代表实现:LlamaIndex 的 Summary Index + Vector Index 组合。

5.2 图检索(Graph RAG)

基于知识图谱进行图遍历检索,通过实体关系链找到多跳相关信息。

  • 擅长处理:多跳关系问答、结构化知识
  • 代表工作:微软 GraphRAG

5.3 迭代检索(Iterative RAG / FLARE)

生成内容 → 判断信息是否充足 → 不足则生成新查询 → 再次检索 → 继续生成

“边想边查”而非”查完再想”,适合长文本生成场景。当模型对某段生成不确定时,主动触发检索补充信息。

5.4 递归检索(Recursive Retrieval)

检索到文档后,若发现文档中引用了其他数据源或链接,则根据新线索发起第二轮检索,如此递归。适合处理具有多层链接的文档(如维基百科)。

5.5 自适应检索(Adaptive RAG)

根据问题复杂度动态决定检索策略:

简单问题 → 直接回答(不检索)
中等问题 → 单次检索
复杂问题 → 多步检索

让 LLM 自主判断”是否需要检索”,模型参数中已有相关知识时直接回答;遇到时效性或未知领域问题时启动检索。

5.6 Self-RAG

模型通过特殊 token 实现自反思,自主判断三个问题:

  1. 是否需要检索?
  2. 检索到的结果是否与问题相关?
  3. 生成内容是否有文档依据?

5.7 回溯检索(Backtracking Retrieval)

当后续推理遇到矛盾或信息不足时,系统能回溯到之前的检索节点,修正查询策略或选择不同的文档片段,重新生成答案。进阶形式结合树状搜索,不局限于单一推理路径。

5.8 Agentic RAG

将检索作为 Agent 的一个工具,通过 ReAct、Plan-and-Execute 等框架实现多步推理与检索的交替执行,赋予系统最强的决策能力。


六、上下文处理策略

检索到内容后,如何组织和处理同样重要。

6.1 Lost in the Middle 问题

研究表明,LLM 对长上下文中间位置的内容关注度显著低于首尾。因此:

  • 重要内容应放在上下文的首部或尾部
  • 控制整体上下文长度,避免无效冗余

6.2 上下文重排序

在输入 LLM 前对检索到的段落重新排序,将最相关的内容放在首尾位置,缓解 Lost in the Middle 问题。

6.3 上下文压缩

对检索到的多个文档段落进行去重、摘要与聚合,只保留关键信息,同时减少噪声和 Token 消耗。


七、评估体系

好的检索策略需要量化评估,以下是核心评估指标与工具。

7.1 检索侧指标

指标说明
Hit Rate(命中率)Top-K 结果中是否包含正确文档
MRR(平均倒数排名)正确文档排名的倒数均值,衡量排名质量
Recall@K前 K 个结果中正确文档的召回比例
NDCG归一化折损累积增益,综合排名与相关性

7.2 端到端指标

指标说明
Faithfulness(忠实度)生成内容是否忠实于检索结果,无幻觉
Answer Relevancy(答案相关性)最终答案是否回答了用户问题
Context Precision检索结果中相关内容的精确度
Context Recall回答所需的关键信息是否都被检索到

7.3 评估框架

  • RAGAS:专为 RAG 系统设计的端到端评估框架
  • TruLens:基于 LLM 的评估与追踪框架
  • DeepEval:支持多维度指标的测试框架

八、选型指南

8.1 按问题类型选策略

问题类型               →  推荐检索策略
──────────────────────────────────────────────────────
简单事实问答            →  混合检索 + Rerank
多跳复杂推理            →  查询分解 + 迭代检索 / 递归检索
问题含歧义/上下文依赖    →  查询重写 + HyDE
需要大量背景知识         →  Step-Back + HyDE
结构化/实体关系知识      →  Graph RAG
长文档精确问答           →  层次化索引 + Small-to-Big
实时性/自我纠错需求      →  Self-RAG / Adaptive RAG
极复杂多步推理场景       →  Agentic RAG

8.2 按落地阶段推荐路径

阶段一(起步):混合检索 + 索引优化
  → 解决约 80% 的场景,建立稳定基线

阶段二(提升精度):+ 重排序 + 查询优化策略(重写/HyDE)
  → 显著提升答案准确率,降低幻觉

阶段三(解决复杂问题):+ 查询分解 + 迭代/递归检索
  → 支持多跳推理和复杂知识组合

阶段四(追求极致智能):+ Adaptive RAG / Self-RAG / Agentic RAG
  → 系统具备自主决策、自我纠错能力

总结

RAG 检索策略的演进脉络:

简单向量检索
  → 混合检索(稀疏 + 稠密)
    → 召回 + 重排(两阶段精排)
      → 查询增强(重写、HyDE、分解)
        → 迭代 / 自适应检索
          → Agentic RAG(检索即工具)

三个核心原则:

  1. 召回阶段:保证覆盖率(Recall),宁可多捞,不要漏掉
  2. 精排阶段:保证精确度(Precision),严格筛选相关内容
  3. 上下文处理:减少噪声,合理组织,充分利用 LLM 的上下文窗口

实践中往往是多种策略的组合使用,没有银弹,根据具体场景的数据特点、延迟要求和资源约束灵活选型。