RAG 效果优化的关键策略与工程实践详解

4. Dense X Retrieval

该研究探讨了密集检索中检索单元粒度的重要性，提出'命题'（proposition）作为新的检索单元。命题定义为文本中的原子表达，包含独立事实，具有最小化、独立意义和上下文自包含的特性。

实施步骤：

1. 分割段落为命题。
2. 创建 FactoidWiki（命题化处理器）。
3. 比较不同粒度检索单元的效果。
4. 在开放域问答任务中验证。

通过 Prompt 将段落分解为清晰简洁的命题列表，可显著提升检索精度。

常见工程实践优化策略

1. Chunking 优化

文本切割是优化性能的关键。传统的基于物理位置的切割（字符级、递归字符级）可能无法有效组织语义信息。

五种切割层次：

1. 字符级切割：按字符数量固定切割。
2. 递归字符切割：考虑换行符、段落等物理结构。
3. 文档特定切割：针对 Markdown、代码等使用特定分隔符。
4. 语义切割：利用嵌入向量分析文本意义确定切割点。
5. 基因性切割：使用 Agent 智能决定如何切割文本。

建议根据数据类型和任务性质定制切割策略，多向量索引可提供更丰富的表示。

2. Query 重写与分解

基本流程：

1. 输入问题。
2. 生成多个子查询（Query Decomposition）。
3. 分别检索相关文档。
4. 合并并重排序文档。
5. 输出答案。

其他策略：

• 递归回答：将问题、先前响应和上下文传递，适合复杂查询。
• 并行回答：将提示分解为细致部分并行解决，组合后回答用户查询。

Query 处理细节：

• 分析结构：分词、NER（命名实体识别）。
• 纠正错误：自动纠正拼写或语法错误。
• 联想语义：使用 HyDE 或 RAG-Fusion 进行改写。
• 扩充上下文：补全省略内容或解析指代关系。

3. Hybrid Retrieval（混合检索）

结合稀疏检索（Sparse Retrieval）和稠密检索（Dense Retrieval）的优势。

• 稀疏检索：基于倒排索引（BM25/TF-IDF），速度快，可解释性强，但处理同义词效果有限。
• 稠密检索：基于深度神经网络映射到向量空间，捕捉语义信息好，但构建成本高，速度较慢。

混合检索能兼顾关键词匹配和语义理解，提高召回率和准确率。

4. Small to Big 检索策略

一种渐进式多粒度检索方法。先从小粒度（句子、段落）开始检索，逐步扩大到大粒度（文档、集合），直到获得足够相关信息。

优点：

• 提高效率：快速锁定大致位置，避免全文搜索耗时。
• 提高准确性：保证相关性的同时获取完整上下文。
• 减少干扰：过滤大部分不相关文本。

5. Embedding & Rerank 模型优化

选择合适的 Embedding 模型和重排序（Rerank）模型对最终效果至关重要。针对垂直领域微调 Embedding 模型通常能带来显著收益。Rerank 阶段用于对初步检索结果进行精细排序，进一步提升 Top-K 结果的准确性。

效果评估

RAG 评估系统是模型开发、优化和应用过程中不可或缺的一部分。通过统一的评估标准，可以公平地比较不同 RAG 模型或优化方法之间的差异，识别最佳实践。评估指标通常包括检索命中率（Recall@K）、生成内容的相关性、事实准确性以及端到端的任务完成度。

总结

在 RAG 系统的实际应用中，需要工程和算法等多方参与。理论上有很多优化方法，实践中仍需大量实验对比和验证。常见问题包括异构数据源的加载处理、知识展示形态（文本、图片、表格）的融合回答体验提升，以及建立自动化评估机制。此外，模型的持续迭代和大小模型的训练支持也是长期发展的关键。

通过系统性地应用上述论文提出的架构改进和工程实践策略，可以显著提升 RAG 系统在垂直领域的表现，降低幻觉风险，提高业务 ROI。