RAG 技术详解：概念、场景、优势、微调对比与代码示例

在实际业务中，选择 RAG 还是微调取决于具体需求。以下是两者的详细对比：

决策建议：如果主要痛点是知识过时或私有数据保护，优先选择 RAG；如果需要改变模型的说话风格、遵循特定的输出格式或学习复杂的推理逻辑，则考虑微调。两者也可以结合使用，例如先微调模型提升指令遵循能力，再配合 RAG 提供专业知识。

05 项目实现示例

下面以 Python 为例，展示如何基于 ERNIE Bot SDK 和 LangChain 搭建一个简单的个人知识库 RAG 系统。

环境准备

首先需要安装必要的依赖库：

pip install erniebot langchain chromadb

1. 初始化 ERNIE Bot

配置 API 密钥并测试 Embedding 功能，用于将文本转换为向量。

import erniebot

# 设置 API 类型和 Token
erniebot.api_type = "aistudio"
erniebot.access_token = "<YOUR_ACCESS_TOKEN>"

# 测试 Embedding
response = erniebot.Embedding.create(
    model="ernie-text-embedding",
    input=["这是测试文本，用于验证 embedding 功能是否正常"]
)
print(response.get_result())

2. 引入 ChromaDB 向量数据库

ChromaDB 是一个轻量级的本地向量数据库，适合演示和小规模应用。

import chromadb
from chromadb.api.types import Documents, Embeddings

# 创建持久化客户端
chroma_client = chromadb.PersistentClient(path="./chroma_db")

3. 自定义嵌入函数

封装 ERNIE Bot 的 Embedding 接口，使其符合 LangChain 的 EmbeddingFunction 接口规范。

from typing import List, Optional

class ErnieEmbeddingFunction:
    def __call__(self, input: Documents) -> Embeddings:
        embeddings = []
        for text in input:
            try:
                response = erniebot.embedding.create(
                    model="ernie-text-embedding",
                    input=[text]
                )
                result = response.get_result()
                # 假设返回结构为 [vector] 或类似
                if isinstance(result, list):
                    embeddings.append(result[0])
                else:
                    embeddings.append(result)
            except Exception as e:
                print(f"Error processing text: {text}, Error: {e}")
                embeddings.append([0.0] * 1024) # 默认零向量以防崩溃
        return embeddings

# 创建集合
embedding_func = ErnieEmbeddingFunction()
collection = chroma_client.create_collection(
    name="knowledge_base",
    embedding_function=embedding_func
)

4. 数据加载与分块

读取本地文档并进行切分。合理的分块大小对检索效果至关重要。

from langchain.text_splitter import CharacterTextSplitter
from langchain.document_loaders import TextLoader

# 加载文档
loader = TextLoader('./AI_课程逐字稿.txt', encoding='utf-8')
documents = loader.load()

# 文本分割
# chunk_size: 每个片段的大小，chunk_overlap: 重叠部分，有助于保留上下文
splitter = CharacterTextSplitter(chunk_size=600, chunk_overlap=50)
docs = splitter.split_documents(documents)

print(f"共分割出 {len(docs)} 个文档片段")

5. 添加数据到向量库

将分割后的文档及其元数据存入 ChromaDB。

import uuid

docs_list = [doc.page_content for doc in docs]
metadatas = [{"source": "AI_Course", "page": i} for i, _ in enumerate(docs)]
ids = [str(uuid.uuid4()) for _ in range(len(docs))]

collection.add(
    documents=docs_list,
    metadatas=metadatas,
    ids=ids
)

6. 检索与生成

实现核心的查询逻辑：检索相关片段 -> 构造 Prompt -> 调用大模型生成回答。

def query_rag(query: str, n_results: int = 2):
    # 检索
    results = collection.query(
        query_texts=[query],
        n_results=n_results
    )
    
    # 提取检索到的内容
    context = "\n".join(results['documents'][0])
    
    # 构造 Prompt
    prompt = f"""
    你是一个专业的 AI 助手。请根据以下背景知识回答问题。
    如果背景知识中没有相关信息，请直接说明不知道。
    
    <context>
    {context}
    </context>
    
    用户问题：{query}
    """
    
    # 调用大模型
    response = erniebot.ChatCompletion.create(
        model="ernie-4.0",
        messages=[{"role": "user", "content": prompt}]
    )
    
    return response.get_result()['result']

# 测试查询
if __name__ == "__main__":
    user_input = input("请输入您的问题：")
    answer = query_rag(user_input)
    print("\n回答：", answer)

06 高级 RAG 优化策略

基础 RAG 虽然有效，但在复杂场景下可能面临检索不准或回答质量不高的问题。业界已发展出一系列高级优化技术：

1. 混合检索（Hybrid Search）

单纯依赖向量相似度（Dense Retrieval）可能会丢失精确关键词匹配的能力。混合检索结合了稀疏检索（如 BM25）和稠密检索（Vector Search）。BM25 擅长匹配专有名词和精确术语，而 Vector Search 擅长语义理解。通过加权融合两者的得分，可以显著提升召回率。

2. 重排序（Re-ranking）

检索阶段召回的 Top-K 文档可能包含噪声。引入一个专门的 Re-ranker 模型（Cross-Encoder），对候选文档与查询进行精细的相关性打分，然后取前 K 个作为最终上下文。虽然增加了计算开销，但能大幅提高生成质量。

3. 查询改写（Query Rewriting）

用户的原始提问往往简略或缺乏上下文。通过 LLM 对查询进行重写，例如将多轮对话中的追问还原为独立问题，或补充缺失的主语/宾语，可以使检索结果更精准。例如，用户问'它的价格是多少？'，改写后变为'文心一言大模型的价格是多少？'。

4. 递归检索（Recursive Retrieval）

对于复杂的多跳问题（Multi-hop Question），单次检索可能无法找到所有必要信息。递归检索允许模型先检索一部分信息，基于此生成中间结论，再基于中间结论进行二次检索，直到收集到足够信息为止。

5. 评估体系（Evaluation）

为了持续优化 RAG 系统，需要建立评估指标。常用的包括：

• 检索准确率（Recall@K）：衡量是否找到了正确答案所在的文档。
• 生成忠实度（Faithfulness）：衡量回答是否严格基于检索内容，有无幻觉。
• 答案相关性（Answer Relevance）：衡量回答是否直接解决了用户问题。

07 最佳实践与注意事项

1. 数据清洗：入库前的数据质量决定上限。去除 HTML 标签、特殊符号、乱码，统一编码格式。
2. 分块策略：不要盲目使用固定字符数。应根据文档结构（如段落、标题）进行语义分块，保持内容的完整性。
3. 元数据过滤：利用元数据（如日期、作者、分类）进行过滤，可以在检索前缩小范围，提高精度。
4. 缓存机制：对于高频重复问题，应建立缓存层，直接返回历史答案，降低 API 成本和响应延迟。
5. 人工审核：在关键业务场景（如医疗、金融），建议引入人工审核环节，对 RAG 生成的内容进行抽检。

通过上述优化与实践，RAG 技术能够构建出既具备大模型语言能力，又拥有精准知识掌控力的智能系统，是企业数字化转型中不可或缺的技术组件。