基于 LangChain 和 ChatGPT 构建 PDF 问答机器人

推荐使用 Jupyter Notebook 进行开发，也可使用 Google Colab 在线平台。

配置 OpenAI API 密钥

在代码中设置环境变量以使用 OpenAI 服务。

import logging
import sys
import os

os.environ["OPENAI_API_KEY"] = "<YOUR_OPENAI_API_KEY>"

获取 API Key 请访问：https://platform.openai.com/account/api-keys

数据加载与预处理

我们需要加载 PDF 文档并将其分割成合适的片段。RecursiveCharacterTextSplitter 是推荐的通用文本分割器，它尝试按字符列表顺序分割，直到块足够小。

from langchain.document_loaders import PyPDFLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter

# 加载数据
loader = PyPDFLoader('../notebooks/documents/Apple-Financial-Report-Q1-2022.pdf')
data = loader.load()

# 文本分割器配置
# chunk_size: 每个块的最大字符数
# chunk_overlap: 块之间的重叠字符数，有助于保持上下文连贯性
text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
texts = text_splitter.split_documents(data)

# 查看第一个块
print(texts[0])

向量数据库集成

Chroma 是一种嵌入式数据库，专为 LLM 应用设计。它将文本映射为实数向量（Embedding），使得语义相似的词汇在向量空间中距离更近。

例如，在嵌入空间中，"国王"和"女王"的向量会比"苹果"更接近，因为它们具有语义关联。通过向量数据库，我们可以执行高效的语义搜索，而非简单的关键词匹配。

初始化 Embedding 与 Chroma

from langchain.vectorstores import Chroma
from langchain.embeddings.openai import OpenAIEmbeddings

# 初始化 OpenAI Embedding 模型
embeddings = OpenAIEmbeddings(model='text-embedding-ada-002')

# 从文档创建内存中的嵌入数据库
# metadatas: 可选的元数据，用于过滤或追踪来源
docsearch = Chroma.from_documents(
    texts, 
    embeddings, 
    metadatas=[{"source": str(i)} for i in range(len(texts))]
)

# 执行相似性搜索
query = "What is the operating income?"
docs = docsearch.similarity_search(query)

问答链（Chain）实现

LangChain 提供了多种预建的 Chain 类型来处理问答任务。它们的主要区别在于如何处理检索到的上下文以及是否返回来源引用。

1. load_qa_chain

将所有检索到的文档内容作为上下文传递给 LLM。

from langchain.chains.question_answering import load_qa_chain
from langchain.chat_models import ChatOpenAI

chain = load_qa_chain(
    ChatOpenAI(temperature=0.2, model_name='gpt-3.5-turbo'), 
    chain_type="stuff"
)
query = "What is the operating income?"
result = chain.run(input_documents=docs, question=query)
print(result)

2. load_qa_with_sources_chain

类似上述方法，但会尝试识别信息来源。

from langchain.chains.qa_with_sources import load_qa_with_sources_chain

chain = load_qa_with_sources_chain(
    ChatOpenAI(temperature=0.2, model_name='gpt-3.5-turbo'), 
    chain_type="stuff"
)
result = chain({"input_documents": docs, "question": query}, return_only_outputs=True)
print(result)

3. RetrievalQA

简化接口，自动处理检索步骤。

from langchain.chains import RetrievalQA

qa = RetrievalQA.from_chain_type(
    llm=ChatOpenAI(temperature=0.2, model_name='gpt-3.5-turbo'), 
    chain_type="stuff", 
    retriever=docsearch.as_retriever()
)
query = "What is the operating income?"
result = qa.run(query)
print(result)

4. RetrievalQAWithSourcesChain

结合检索与来源引用的简化版。

from langchain.chains import RetrievalQAWithSourcesChain

chain = RetrievalQAWithSourcesChain.from_chain_type(
    ChatOpenAI(temperature=0.2, model_name='gpt-3.5-turbo'), 
    chain_type="stuff", 
    retriever=docsearch.as_retriever()
)
result = chain({"question": "What is the operating income?"}, return_only_outputs=True)
print(result)

总结与优化方向

至此，一个基于 PDF 文档的问答聊天机器人原型已完成。该机器人能够读取 PDF 内容并根据文档内容进行交互问答。

后续优化建议

1. 模型替换：除了 OpenAI API，可接入私有部署的开源模型（如 ChatGLM、Llama2）以降低隐私风险和成本。
2. 向量存储扩展：对于大规模数据，可将 Chroma 替换为 Milvus、Pinecone 或 Elasticsearch 等分布式向量数据库。
3. 混合检索：结合关键词检索（BM25）与语义检索，提高召回率。
4. 错误处理：增加对网络超时、API 限流及无效输入的异常捕获机制。
5. 多轮对话：引入 Memory 组件，保存聊天历史以实现上下文相关的多轮对话。

通过上述方案，我们可以有效地利用自有数据，构建安全、可控的智能问答系统。