AI 大模型 RAG 技术原理与实战应用

3. 用户意图模糊性

用户提问往往笼统，实际意图未完全体现，导致检索内容不匹配。

• 方案：引入 Query Rewrite（查询重写）技术，将用户问题转化为更精确的检索词；结合多路召回策略，混合关键词检索与向量检索。

六、完整的 RAG 应用流程

1. 数据准备阶段

• 数据提取：从各类源文件读取内容。
• 文本分割：按策略切分为 Chunk。
• 向量化：调用 Embedding API 生成向量。
• 数据入库：存储至 Elasticsearch 或 Milvus 等向量数据库。

2. 应用阶段

• 用户提问：接收自然语言查询。
• 数据检索：在向量库中进行召回。
• 注入 Prompt：将检索结果组装进系统提示词。
• LLM 生成：大模型输出最终答案。

七、代码实现示例（Python + LangChain）

以下是一个简化的 RAG 流程代码示例，展示如何使用 LangChain 框架构建检索问答系统。

from langchain.document_loaders import PyPDFLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.embeddings import HuggingFaceEmbeddings
from langchain.vectorstores import FAISS
from langchain.chains import RetrievalQA
from langchain.llms import HuggingFacePipeline

# 1. 加载文档
loader = PyPDFLoader("example.pdf")
documents = loader.load()

# 2. 文本分割
splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=50)
chunks = splitter.split_documents(documents)

# 3. 向量化与索引
embeddings = HuggingFaceEmbeddings(model_name="bge-base-zh-v1.5")
vectorstore = FAISS.from_documents(chunks, embeddings)

# 4. 初始化 LLM 与检索链
llm = HuggingFacePipeline.from_model_id(
    model_id="Qwen/Qwen-7B-Chat",
    task_text_generation,
    pipeline_kwargs={"max_new_tokens": 512}
)
qa_chain = RetrievalQA.from_chain_type(
    llm=llm,
    chain_type="stuff",
    retriever=vectorstore.as_retriever(search_kwargs={"k": 5})
)

# 5. 查询
response = qa_chain.run("请总结文档中的关键技术点？")
print(response)

八、RAG 技术范式发展

RAG 概念于 2020 年首次提出，随后进入高速发展期。演进历程大致分为：

1. 早期预训练阶段：研究如何通过预训练模型注入额外知识。
2. 大模型时代：随着 ChatGPT 面世，深度上下文学习推动 RAG 快速发展。
3. 推理增强阶段：聚焦提升模型可控性，探索微调过程中的改进方法。
4. 融合策略阶段：随着 GPT-4 发布，重点转向 RAG 与微调策略的融合，以及对预训练方法的持续优化。

九、总结

RAG 技术通过检索外部知识增强了大语言模型的能力，有效解决了垂直领域知识更新慢、幻觉多等问题。在实际落地中，需重点关注数据清洗质量、切片策略优化以及检索排序模型的选型。随着多模态技术和 Agent 架构的发展，RAG 将在企业级知识库、智能客服等领域发挥更大价值。