基于 LangChain 与 Gradio 搭建个人知识助手

2. API 调用封装

在 SparkGPT.py 中实现讯飞星火的 WebSocket 连接逻辑。核心步骤包括签名计算、消息构造及流式响应处理。

# SparkGPT.py 核心逻辑示意
import SparkApi
from abc import ABC, abstractmethod

class SparkGPT(ABC):
    def __init__(self, appid, api_secret, api_key):
        self.appid = appid
        self.api_secret = api_secret
        self.api_key = api_key

    @abstractmethod
    def generate(self, question: str) -> str:
        pass

提示：实际项目中请确保 SparkApi.py 中包含完整的鉴权逻辑，此处仅展示接口定义。用户需在代码中填入真实的 APPID、APISecret 和 APIKey。

四、核心代码实现

1. 文本分割与向量化

使用 RecursiveCharacterTextSplitter 对长文本进行分块，并通过 FlagModel 生成向量嵌入。

from langchain.text_splitter import RecursiveCharacterTextSplitter
from FlagEmbedding import FlagModel
from langchain.vectorstores import Chroma
from langchain.document_loaders import TextLoader

# 初始化文本分割器
text_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=50)

# 加载向量模型
model_path = "./models/bge-large-zh"
embedding_model = FlagModel(model_path, use_fp16=True)  # 开启半精度加速

# 加载文档
docs = []
for file in os.listdir("./data"):
    if file.endswith(".txt"):
        loader = TextLoader(f"./data/{file}")
        docs.extend(loader.load())

# 切分文档
split_docs = text_splitter.split_documents(docs)

# 存入 ChromaDB
vectorstore = Chroma.from_documents(documents=split_docs, embedding=embedding_model)

2. 检索链构建

结合 Prompt 模板与大模型，构建完整的问答链。

from langchain.chains import RetrievalQA
from langchain.prompts import PromptTemplate

prompt_template = """基于以下已知信息，简洁和专业的来回答问题。如果无法从中得到答案，请说无法回答。
已知信息：{context}
问题：{question}
"""
PROMPT_TEMPLATE = PromptTemplate(template=prompt_template, input_variables=["context", "question"])

# 初始化检索器
retriever = vectorstore.as_retriever(search_kwargs={"k": 3})

# 初始化 QA 链
qa_chain = RetrievalQA.from_chain_type(
    llm=spark_llm_instance,  # 此处传入封装好的 SparkGPT 实例
    chain_type="stuff",
    retriever=retriever,
    return_source_documents=True,
    chain_type_kwargs={"prompt": PROMPT_TEMPLATE}
)

3. Gradio 界面集成

使用 Gradio 快速构建 Web UI，允许用户输入问题并查看结果。

import gradio as gr

def ask_question(question):
    try:
        result = qa_chain({"query": question})
        return result["result"]
    except Exception as e:
        return f"发生错误：{str(e)}"

with gr.Blocks() as demo:
    gr.Markdown("# 个人知识助手")
    with gr.Row():
        with gr.Column():
            input_text = gr.Textbox(label="请输入您的问题", placeholder="在此输入...")
            btn = gr.Button("提交")
        with gr.Column():
            output_text = gr.Textbox(label="回答结果")
    btn.click(fn=ask_question, inputs=input_text, outputs=output_text)

demo.launch()

五、运行与测试

1. 启动服务

在项目根目录下执行以下命令启动应用：

python app.py

终端将输出类似 Running on local URL: http://127.0.0.1:7860 的信息。

2. 访问界面

打开浏览器访问上述地址，即可看到交互界面。输入关于知识库的问题，系统将基于检索到的上下文生成回答。

六、优化建议

当前实现为基础版本，后续可从以下方向进行优化：

1. 检索精度提升：尝试使用混合检索（Hybrid Search），结合关键词匹配与向量相似度。
2. 模型微调：针对垂直领域数据，可对基座模型进行 LoRA 微调，提升专业术语的理解能力。
3. 性能优化：对于大规模知识库，建议引入缓存机制或使用更高效的向量索引（如 Faiss Index IVF_PQ）。
4. 多模态支持：扩展支持图片、表格等非结构化数据的解析与检索。

结语

通过上述步骤，我们成功搭建了一个基于 RAG 架构的个人知识助手。该方案无需依赖第三方云服务存储敏感数据，有效保障了信息安全性。开发者可根据实际需求调整组件配置，进一步拓展应用场景。