从零开始，手把手教你用开源技术搭建一个能“读懂“文档的智能问答系统（收藏版）

从零开始，用开源技术搭建一个能"读懂"文档的智能问答系统

今天给大家分享一个非常实用的项目——Everything plus RAG 智能文档问答系统。

相信大家的电脑上都安装了 Everything，一个磁盘文件快速查找桌面级应用软件。

一直以来，我都有个想法，能否做一个 plus 版本，支持文档的全文检索和智能问答？！这个想法萌芽已久，且和同事、朋友做过多次讨论。

近期，终于腾出空来，把它实现了。

直接上效果视频。

这个系统解决了我们工作中一个常见的痛点——如何从海量文档中快速找到最准确答案?

unsetunset一、为什么需要这样一个系统?unsetunset

先说说我遇到的问题。作为技术人,手头总有大量的文档:

• 技术文档、API 手册堆积如山
• 项目笔记、会议记录散落各处
• 代码文件、配置文件数不胜数

传统的解决方案有两种:

方案一:全文搜索(如 Elasticsearch、国产化[Easysearch] 等)

• 优点:速度快,能精确匹配关键词
• 缺点:不理解语义,搜"如何启动"找不到"怎么运行"

方案二:直接问 ChatGPT、Claude、deepseek、豆包等 AI 工具

• 优点:理解能力强,回答自然
• 缺点:容易"胡说八道",给出的答案可能根本不在你的文档里

那么,能不能结合两者的优点,既快速检索又智能理解,还能保证答案可靠呢?

答案是:

可以!

这就是我今天要分享的 RAG(检索增强生成) 技术。

unsetunset二、什么是 RAG?一个形象的比喻unsetunset

把 RAG 想象成一场"开卷考试":

传统 AI(闭卷考试)学生(AI): 凭记忆答题问题: 可能记错、编造答案RAG(开卷考试)学生(AI): 先翻书找相关内容,再基于书本回答优势: 答案有据可查,准确可靠 

RAG 的核心流程只有三步:

1. 检索(Retrieval): 从文档库找相关内容
2. 增强(Augmented): 把找到的内容提供给 AI
3. 生成(Generation): AI 基于这些内容生成答案

简单吧！但要做好,还有很多技术细节。

unsetunset三、系统架构:三层设计,清晰明了unsetunset

Everything plus 采用经典的三层架构:

技术栈选型原则:全部开源,零成本部署

• 后端: Python + Flask(轻量级)
• 检索引擎: Elasticsearch 9.x / Easysearch 2.0.0+(支持向量检索)
• 向量模型: Sentence-Transformers(开源)
• LLM: DeepSeek/Ollama(国产/本地)
• 数据库: MySQL(用户管理)

unsetunset四、核心技术解密:混合检索是关键unsetunset

4.1 为什么需要"混合检索"?

单纯用关键词检索或向量检索都有局限:

解决方案:混合检索 = BM25 + 向量检索

举个例子:

问题: "如何配置数据库连接?"BM25 检索结果:- 文档A: "配置数据库连接的方法..." (精确匹配)- 文档B: "database connection config" (英文匹配)向量检索结果:- 文档C: "设置 MySQL 链接参数..." (语义相似)- 文档D: "数据库初始化步骤..." (相关内容)融合后: A(最相关) > C > B > D 

4.2 RRF 融合算法:简单但有效

两种检索结果如何合并?这里用到 RRF(倒数排名融合) 算法:

# 核心公式RRF_score = 1/(k + rank1) + 1/(k + rank2)# 例子文档A: rank1=1, rank2=3 score = 1/(60+1) + 1/(60+3) = 0.0164 + 0.0159 = 0.0323文档B: rank1=5, rank2=1 score = 1/(60+5) + 1/(60+1) = 0.0154 + 0.0164 = 0.0318 

关键思想:同时出现在两个结果列表中的文档,得分会更高

4.3 查询重写:一个问题变三个

用户的问题往往很简短,直接检索效果不好。系统会自动生成多个查询变体:

原始查询: "系统怎么用"自动重写为:1. "系统怎么用 详细说明" 2. "什么是 系统怎么用"3. "系统怎么用 步骤"# 每个变体都去检索,结果再融合# 这样可以找到更多相关文档 

4.4 提示词工程:让 AI 不胡说

RAG 的关键是让 AI 只基于检索到的内容回答:

prompt = f"""你是一个文档问答助手。请严格基于以下上下文回答问题:【上下文】[块1] {doc1_content}[块2] {doc2_content}[块3] {doc3_content}【规则】1. 只能使用上述上下文中的信息2. 如果上下文中没有答案,明确说"文档中未找到相关信息"3. 引用时注明来源,如"根据[块1]..."【问题】{user_question}【回答】""" 

这样设计的提示词,能有效防止 AI “胡编乱造”。

unsetunset五、特色功能:类 Everything 的磁盘扫描unsetunset

这是系统的一大亮点!你可以直接扫描本地磁盘,自动索引文档:

5.1 扫描流程 首次扫描是全量的,但后续扫描会智能判断:

5.2 智能增量更新

首次扫描是全量的,但后续扫描会智能判断:

# 判断文件是否需要重新索引if file.mtime > last_index_time: # 文件被修改过,重新索引 re_index(file)else: # 文件未变化,跳过 skip(file) 

这样即使扫描大量文件,也不会重复处理,效率很高。

5.3 支持 30+ 种文件类型

文档类: TXT, MD, PDF, DOCX, XLSX, PPTX代码类: PY, JS, JAVA, CPP, GO, PHP, TS, RS配置类: JSON, YAML, XML, INI, CONF, ENV网页类: HTML, CSS, SCSS脚本类: SH, BAT, PS1 

基本涵盖了日常工作中的所有文本文件。

unsetunset六、实战演示:从安装到使用unsetunset

6.1 环境准备

# 1. 安装 Python 依赖pip install -r requirements.txt# 2. 启动 Elasticsearch/Easysearch系统用了 Elasticsearch 9.0 版本。Easysearch 2.0 等版本原理一致。# 3. 安装 MySQL# (根据你的系统安装 MySQL 5.7+)# 4. 初始化数据库python init_database.py 

6.2 启动系统

python app.py 

访问 http://localhost:16666,注册账号登录。

6.3 索引文档

方式一:上传文档

1. 点击"上传文档"标签页
2. 选择文档文件(支持批量)
3. 点击上传,系统自动索引

方式二:扫描磁盘

1. 点击"磁盘扫描"标签页
2. 选择要扫描的磁盘(如 D:、E:)
3. 点击"立即刷新"

等待扫描完成

6.4 开始问答

问题: "如何配置 Elasticsearch 连接?"系统返回:【答案】根据[块1]和[块3],Elasticsearch 连接配置如下:1. 在 config.py 中设置连接参数: - ES_HOST: Elasticsearch 服务器地址 - ES_PORT: 端口号(默认9200) - ES_USER: 用户名 - ES_PASSWORD: 密码2. 初始化客户端: es = Elasticsearch( hosts=[{'host': ES_HOST, 'port': ES_PORT}], basic_auth=(ES_USER, ES_PASSWORD) )【证据来源】[块1] 文档: config_guide.md, 第2段[块3] 文档: setup.md, 第5段【相关文档】(3个)- config_guide.md- setup.md - troubleshooting.md 

unsetunset七、性能优化经验unsetunset

7.1 检索性能

• 批量查询: 使用 Elasticsearch 的 _msearch API
• 结果缓存: 相同问题直接返回缓存

分页加载: 前端分页,避免一次加载过多

7.2 索引性能

• 批量索引: 使用 _bulk API,100条一批
• 异步处理: 文档上传后台异步索引
• 增量更新: 只处理修改过的文件

7.3 向量生成优化

# 批量生成向量,而不是逐个生成texts = [chunk1, chunk2, ..., chunk100]vectors = model.encode(texts, batch_size=32)# 比逐个生成快10倍以上 

unsetunset八、踩过的坑和解决方案unsetunset

坑1: 向量维度不匹配

问题: Elasticsearch 索引的向量维度与模型不一致

# 错误mapping = { "vector": {"type": "dense_vector", "dims": 512} # 但模型是384维}# 正确:先确认模型维度model = SentenceTransformer('all-MiniLM-L6-v2')print(model.get_sentence_embedding_dimension()) # 384mapping = { "vector": {"type": "dense_vector", "dims": 384} # 与模型一致} 

坑2: PDF 提取乱码

问题: PDF 中的中文提取出来全是乱码

解决: 使用 pdfplumber 代替 PyPDF2

# pdfplumber 对中文支持更好import pdfplumberwith pdfplumber.open(pdf_path) as pdf: for page in pdf.pages: text += page.extract_text() 

坑3: 长文档检索效果差

问题: 长文档切分成小块后,检索只能找到片段,缺乏上下文

解决: 使用重叠切分

from langchain.text_splitter import RecursiveCharacterTextSplittersplitter = RecursiveCharacterTextSplitter( chunk_size=500, # 每块500字符 chunk_overlap=50, # 重叠50字符,保留上下文 length_function=len)unset 

unsetunset九、总结与思考unsetunset

核心收获

1. RAG 不复杂就是检索+提示词+LLM 三步
2. 混合检索是王道:BM25 + 向量,各取所长
3. 提示词很关键:好的提示词让 AI 不胡说
4. 工程化很重要:性能优化、错误处理、用户体验缺一不可

最后的话

Everything plus 展示了如何用开源技术构建一个生产级的 RAG 系统。它不是最先进的,但是最实用、最接地气的。

重要的不是技术有多酷,而是能不能解决实际问题。如果这个系统能让你从"找文档"的痛苦中解脱出来,那就值了。

如何系统的学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

一直在更新，更多的大模型学习和面试资料已经上传带到ZEEKLOG的官方了，有需要的朋友可以扫描下方二维码免费领取【保证100%免费】👇👇

01.大模型风口已至：月薪30K+的AI岗正在批量诞生

2025年大模型应用呈现爆发式增长，根据工信部最新数据：

国内大模型相关岗位缺口达47万

初级工程师平均薪资28K（数据来源：BOSS直聘报告）

70%企业存在"能用模型不会调优"的痛点

真实案例：某二本机械专业学员，通过4个月系统学习，成功拿到某AI医疗公司大模型优化岗offer，薪资直接翻3倍！

02.大模型 AI 学习和面试资料

1️⃣ 提示词工程：把ChatGPT从玩具变成生产工具
2️⃣ RAG系统：让大模型精准输出行业知识
3️⃣ 智能体开发：用AutoGPT打造24小时数字员工

📦熬了三个大夜整理的《AI进化工具包》送你：
✔️ 大厂内部LLM落地手册（含58个真实案例）
✔️ 提示词设计模板库（覆盖12大应用场景）
✔️ 私藏学习路径图（0基础到项目实战仅需90天）

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传ZEEKLOG，朋友们如果需要可以微信扫描下方ZEEKLOG官方认证二维码免费领取【保证100%免费】