大模型低成本升级：RAG 检索增强生成技术详解

例如，在处理企业内部政策查询时，我们可以加载本地知识库，避免将敏感数据直接发送给公共 LLM。

from langchain.vectorstores import FAISS
from langchain.embeddings import OpenAIEmbeddings
from langchain.chains import RetrievalQA
from langchain.llms import OpenAI

embeddings = OpenAIEmbeddings()
db = FAISS.load_local("enterprise_knowledge_base", embeddings)
llm = OpenAI(temperature=0)
qa_chain = RetrievalQA.from_chain_type(llm=llm, chain_type="stuff", retriever=db.as_retriever())

result = qa_chain.run("公司的请假政策是什么？")
print(result)

RAG 与 SFT 的对比

RAG 适合需要频繁更新知识的场景，而 SFT 更适合固定领域的风格对齐。

RAG 的典型实现方法

落地 RAG 通常分为三步：数据索引、数据检索、文本生成。

1. 数据索引

将私域数据向量化后存入数据库。包括提取、分割、Embedding 及建索引。

import PyPDF2
from langchain.text_splitter import CharacterTextSplitter
from langchain.vectorstores import FAISS
from langchain.embeddings import OpenAIEmbeddings

def extract_text_from_pdf(pdf_path):
    text = ""
    with open(pdf_path, "rb") as f:
        reader = PyPDF2.PdfReader(f)
        for page in reader.pages:
            text += page.extract_text()
    return text

text_splitter = CharacterTextSplitter()
embeddings = OpenAIEmbeddings()

def create_index(pdf_path):
    text = extract_text_from_pdf(pdf_path)
    texts = text_splitter.split_text(text)
    db = FAISS.from_texts(texts, embeddings)
    db.save_local("pdf_index")

create_index("example.pdf")

2. 数据检索

获取有效信息的关键，支持元数据过滤、向量相似度检索等。

db = FAISS.load_local("pdf_index", embeddings)
query = "Python 学习教程"
docs = db.similarity_search(query, k=3)
for doc in docs:
    print(doc.page_content)

3. 文本生成

将 Query 和检索文本组合输入模型，本质是 Prompt Engineering。

from langchain.chains import RetrievalQA
from langchain.llms import OpenAI

llm = OpenAI(temperature=0)
qa_chain = RetrievalQA.from_chain_type(llm=llm, chain_type="stuff", retriever=db.as_retriever())
result = qa_chain.run("如何学习 Python？")
print(result)

RAG 的典型案例

ChatPDF允许用户上传 PDF 并通过聊天提问，底层逻辑正是 RAG。Baichuan搜索增强系统融合了指令理解与智能搜索。多模态 RAG则能同时处理图文视频，如 RA-CM3 模型。

RAG 存在的问题

尽管优势明显，RAG 仍面临挑战：

1. 检索效果依赖 Embedding：若语义表示不准，检索到无关信息会干扰输出。
2. 信息利用黑盒：模型如何利用检索内容仍不透明，可能产生冲突。
3. 效率问题：无差别检索所有任务会增加输入长度，降低生成速度。
4. 事实查证难：若数据源不可靠，生成的回答也无法精准查证。

RAG 的拓展方案

为了应对上述问题，社区提出了多种拓展方向：

• 多模态 RAG：处理图像、音频等非文本数据。
• 实时 RAG：集成新闻 API 等实时源，确保信息时效性。
• 个性化 RAG：根据用户历史偏好调整检索策略。

例如，在实时场景中，我们可以调用天气或新闻接口，动态更新向量库。

import requests
from langchain.chains import RetrievalQA
from langchain.llms import OpenAI
from langchain.vectorstores import FAISS
from langchain.embeddings import OpenAIEmbeddings

def get_latest_tech_news():
    response = requests.get("https://newsapi.org/v2/top-headlines?country=us&category=technology")
    news = response.json()
    return news['articles'][0]['content'] if news.get('articles') else "No news"

embeddings = OpenAIEmbeddings()
db = FAISS.from_texts([get_latest_tech_news()], embeddings)
llm = OpenAI(temperature=0)
qa_chain = RetrievalQA.from_chain_type(llm=llm, chain_type="stuff", retriever=db.as_retriever())

result = qa_chain.run("最新的科技新闻是什么？")
print(result)

通过合理设计检索策略与生成流程，RAG 已成为大模型落地的首选方案之一。