LightRAG 应用：本地部署与 WebUI 实战
LightRAG 是一个旨在实现简单、快速检索增强生成（RAG）的框架。它通过从文档中构建知识图谱来增强传统 RAG，能够更深入、更具上下文感知地理解源材料，超越了简单的基于关键词的检索，实现了一种利用广泛上下文和具体细节的双层检索范式。
一、技术栈选型
构建稳定的 LightRAG 系统需要合理配置以下组件：
1. 大型语言模型 (LLM)
- 参数规模：建议使用至少 320 亿参数的模型。
- 上下文长度：至少需要 32KB；建议 64KB 以获得最佳性能。
- 能力要求：索引阶段避免使用主要专注于推理的模型；查询阶段建议使用比索引阶段更强大的模型以获得更好的结果。
2. 嵌入模型 (Embedding Model)
一个高性能、多语言的 embedding 模型至关重要。推荐的模型包括 BAAI/bge-m3 和 text-embedding-3-large。
- 一致性：文档索引和查询必须使用相同的 embedding 模型。如果更换模型，必须清除现有的向量数据，以便 LightRAG 使用正确的维度重新生成。
3. 重排序器模型 (Reranker Model)
集成 reranker 模型可以显著提高检索性能，尤其是在使用'mix'查询模式时。
- 推荐模型：
BAAI/bge-reranker-v2-m3或来自 Jina 等提供商的商业产品。 - 机制：将用户查询与候选文档输入同一模型（如 Cross-Encoder），输出 0-1 的相似度分数，基于上下文深度分析语义匹配度，并按分数对文档降序排列，优先保留最相关片段。
参考资源：LightRAG GitHub | 官方中文文档
二、环境部署
本次实践基于 Python 3.10.5、PyCharm 及 Windows 11 环境。
1. 配置开发环境与 Bun
首先配置 Python 环境，打开 LightRAG 源代码目录，在 PyCharm 终端中使用 PowerShell 安装 Bun：
powershell -c "irm bun.sh/install.ps1|iex"
2. 安装依赖并启动服务
安装 LightRAG 服务器、Core 并构建前端代码：
pip install "lightrag-hku[api]"
pip install lightrag-hku
# 构建前端代码
cd lightrag_webui
bun install --frozen-lockfile
bun run build
cd ..
# 配置环境变量
cp env.example .env
# 使用你的 LLM 和 Embedding 模型访问参数更新.env 文件
# 启动 API-WebUI 服务
lightrag-server
