RAG 第三阶段：检索优化与进阶算法 (性能篇)
⚡ RAG 第三阶段：检索优化与进阶算法 (性能篇)
0. 前言：检索质量是 RAG 的“生命线”
在生产环境下，单纯的“向量检索”往往会遇到瓶颈。检索优化不仅是技术的堆叠，更是对语义表示的重构。本阶段目标是解决“搜不到”、“搜不准”和“搜不全”这三大核心痛点，从索引时、架构设计、查询变换、检索方式和后处理五个维度全面提升系统性能。
1. 检索前的“语义表示增强” (Indexing Time)
这一阶段发生在文档进入向量库之前，目的是在“向量化”之前就赋予数据更强的表达能力。
1.1 Contextual Retrieval (上下文增强) —— 解决“语义碎片化”
- 深度原理解析：这是由 Anthropic 提出的核心方案。在传统 RAG 中，将长文档切分为 Chunk 会导致每个 Chunk 变成“孤岛”。如果一个 Chunk 里写着“其 2024 年营收增长 15%”，由于失去了主语（比如“英伟达”），向量检索很难通过“英伟达 财报”找到它。
- 工程实现：在索引阶段，调用 LLM（如 GPT-4o-mini）先读全篇文档，为每一个 Chunk 自动生成一段简洁的“环境描述”。
- 注入公式：
Enhanced_Chunk = [Global_Context] + Original_Chunk。
- 注入公式：
- 价值：显著提升了针对“代词”或“特定细节”检索的召回率（Recall）。
1.2 Late Chunking (延迟切分) —— 解决“边界效应”
- 技术细节：传统做法是“物理切分 -> 独立编码”，每个块的向量互不感知。延迟切分则是利用长文本 Embedding 模型（如 Jina-v3）的特性：
- 全篇输入：将整篇文章（如 8k tokens）一次性输入模型。
- 获取 Token 向量：获取全篇每个 Token 的 Hidden States。
- 池化切分：按照物理边界对这些已包含全局信息的 Token 向量进行 Mean Pooling。
- 优势：此时每个切片的向量里天然携带了全篇的注意力（Attention）权重，彻底消除了切分点处的语义断层。
2. 检索架构的进化：全局与多跳 (Structure)
当问题不再是简单的“事实查阅”，而是“总结归纳”或“链条推理”时，我们需要改变索引的拓扑结构。
2.1 RAPTOR (递归摘要树检索) —— 解决“全局总结”
- 层级化表示：RAPTOR 构建的是一棵“自下而上”的树。
- L0（叶子层）：原始高精度文本块。
- L1-Ln（摘要层）：对下层语义相似的块进行聚类，并用 LLM 生成摘要。
- 检索策略：当用户问“公司的发展战略是什么？”这种宏观问题，检索器会命中树的高层（摘要节点）；当问“某项目具体金额”，则命中底层。它让系统具备了“从林到木”的全面视野。
2.2 GraphRAG (图增强) —— 解决“多跳推理”
- 图谱的力量：向量搜索是寻找“空间相近点”，而图搜索是寻找“逻辑连接线”。
- 多跳 (Multi-hop) 场景：如“A 的创始人的导师是谁？”。
- 向量局限：A 与 导师 C 可能完全不相关，搜不到。
- 图谱方案：提取实体
A -> Founder -> B -> Mentor -> C。通过图遍历，即便语义不相近，只要逻辑相连，就能精准定位。
- 工业趋势：目前领先的方案是将向量索引与图索引结合，形成“Graph + Vector”双索引架构。
3. 在线查询变换 (Query Transformation)
很多时候搜不准是因为用户的提问方式不够清晰，或者与文档的表达不匹配。
3.1 HyDE (假设性文档嵌入) —— 语义对齐
- 核心逻辑：LLM 有一个特性——它生成一个“错误的假答案”往往比生成“正确的搜索关键词”更容易。
- 流程：
User Query -> LLM (生成虚构答案) -> 向量化 (虚构答案) -> 检索 (真实文档)。 - 为什么有效：Query（问句）和 Doc（陈述句）在向量空间本就不重合。HyDE 将检索任务变成了“答案搜答案”，利用语义的对等性实现了降维打击。
3.2 多查询重写 (Multi-Query Retrieval)
- 原理解析：用户一句话可能表达不全。系统通过 LLM 将一个问题重写为 3-5 个意思相近但侧重点不同的问题，分别检索后取并集。
- 效果：极大降低了对用户提问水平的依赖，增加了召回的覆盖面。
4. 工业级混合检索 (Hybrid Search)
4.1 关键词 (BM25) + 向量 (Dense)
- 痛点互补：
- 向量 (Dense)：擅长“意思相近”（如：买房/购房），但不认识特殊编号（如：SN-9527）。
- 关键词 (BM25)：擅长“字符匹配”，对特定术语、缩写、代码极度精准。
- RRF (互惠排名融合)：这是一种不依赖具体分数，只依赖排名顺序的加权算法。它通过以下公式计算最终分：score=∑d∈D1k+rank(d) score = \sum_{d \in D} \frac{1}{k + rank(d)} score=d∈D∑k+rank(d)1（通常 k=60k=60k=60），这确保了两路检索中排名靠前的文档能稳定排在首位。
5. 检索后处理：Rerank 重排序 (核心银弹)
如果你的 RAG 系统只能做一项优化，请务必选择 Rerank。
5.1 Bi-Encoder 与 Cross-Encoder 的博弈
- Bi-Encoder (向量库)：Query 和 Doc 是分开编码的，它们之间没有“眼神交流”。为了速度牺牲了精度。
- Cross-Encoder (Reranker)：将 Query 和 Doc 拼接在一起丢进模型。模型可以逐字对齐，分析每个词在特定上下文下的相关度。
- 实战策略：
- 初筛 (Recall)：用向量检索或混合检索在大海里捞出 100 条小鱼。
- 精排 (Rerank)：用重排模型（如 BGE-Reranker）对这 100 条进行深度打分，选出最相关的 Top-5 给 LLM。
- 结论：这是目前抹平“向量检索幻觉”成本最低、见效最快的手段。
6. 第三阶段避坑指南
[!CAUTION]
深度避坑经验：Token 成本控制：Contextual Retrieval 和 RAPTOR 会产生大量的 LLM 调用成本。在处理千万级文档时，建议先对文档进行重要性分级，仅对核心文档启用增强。检索延迟 (Latency)：Rerank 过程会消耗 100ms-500ms 的时间。在高并发场景下，必须使用推理引擎（如 TensorRT 或 vLLM）对 Reranker 进行加速。置信度过滤：不要盲目相信 Rerank 结果。如果 Top-1 的分值过低（例如在 0-1 体系下低于 0.3），说明知识库确实没有答案，此时应直接触发“拒答”逻辑，而非强制 LLM 回答。
下一步预告：
第四阶段：智能体化 (Agentic RAG)。我们将引入“反思”与“动态规划”机制，让 RAG 系统具备自我纠错能力。
