RAG 检索优化与进阶算法：性能提升

3. 在线查询变换 (Query Transformation)

很多时候搜不准是因为用户的提问方式不够清晰，或者与文档的表达不匹配。

3.1 HyDE (假设性文档嵌入) —— 语义对齐

• 核心逻辑：LLM 有一个特性——它生成一个'错误的假答案'往往比生成'正确的搜索关键词'更容易。
• 流程：User Query -> LLM (生成虚构答案) -> 向量化 (虚构答案) -> 检索 (真实文档)。
• 为什么有效：Query（问句）和 Doc（陈述句）在向量空间本就不重合。HyDE 将检索任务变成了'答案搜答案'，利用语义的对等性实现了降维打击。

3.2 多查询重写 (Multi-Query Retrieval)

• 原理解析：用户一句话可能表达不全。系统通过 LLM 将一个问题重写为 3-5 个意思相近但侧重点不同的问题，分别检索后取并集。
• 效果：极大降低了对用户提问水平的依赖，增加了召回的覆盖面。

4. 工业级混合检索 (Hybrid Search)

4.1 关键词 (BM25) + 向量 (Dense)

• 痛点互补：
  • 向量 (Dense)：擅长'意思相近'（如：买房/购房），但不认识特殊编号（如：SN-9527）。
  • 关键词 (BM25)：擅长'字符匹配'，对特定术语、缩写、代码极度精准。
• RRF (互惠排名融合)：这是一种不依赖具体分数，只依赖排名顺序的加权算法。它通过以下公式计算最终分：

score = \sum_{d \in D} \frac{1}{k + rank(d)}

（通常 $k=60$）。这确保了两路检索中排名靠前的文档能稳定排在首位。

5. 检索后处理：Rerank 重排序 (核心银弹)

如果你的 RAG 系统只能做一项优化，请务必选择 Rerank。

5.1 Bi-Encoder 与 Cross-Encoder 的博弈

• Bi-Encoder (向量库)：Query 和 Doc 是分开编码的，它们之间没有'眼神交流'。为了速度牺牲了精度。
• Cross-Encoder (Reranker)：将 Query 和 Doc 拼接在一起丢进模型。模型可以逐字对齐，分析每个词在特定上下文下的相关度。
• 实战策略：
  1. 初筛 (Recall)：用向量检索或混合检索在大海里捞出 100 条小鱼。
  2. 精排 (Rerank)：用重排模型（如 BGE-Reranker）对这 100 条进行深度打分，选出最相关的 Top-5 给 LLM。
• 结论：这是目前抹平'向量检索幻觉'成本最低、见效最快的手段。

6. 第三阶段避坑指南

[!CAUTION] 深度避坑经验： Token 成本控制：Contextual Retrieval 和 RAPTOR 会产生大量的 LLM 调用成本。在处理千万级文档时，建议先对文档进行重要性分级，仅对核心文档启用增强。 检索延迟 (Latency)：Rerank 过程会消耗 100ms-500ms 的时间。在高并发场景下，必须使用推理引擎（如 TensorRT 或 vLLM）对 Reranker 进行加速。 置信度过滤：不要盲目相信 Rerank 结果。如果 Top-1 的分值过低（例如在 0-1 体系下低于 0.3），说明知识库确实没有答案，此时应直接触发'拒答'逻辑，而非强制 LLM 回答。

下一步预告： 第四阶段：智能体化 (Agentic RAG)。我们将引入'反思'与'动态规划'机制，让 RAG 系统具备自我纠错能力。