LightRAG 本地部署与 WebUI 应用指南
LightRAG 是一个旨在实现简单、快速检索增强生成（RAG）的框架。它通过从文档中构建知识图谱来增强传统 RAG，能够更深入、更具上下文感知地理解源材料，超越了简单的基于关键词的检索，实现了一种利用广泛上下文和具体细节的双层检索范式。
一、技术架构
1. 核心组件
LightRAG 配备了一系列功能，旨在提供一个灵活、强大且可观测的 RAG 系统。
2. 技术栈要求
-
大型语言模型 (LLM)
- 参数：建议使用至少有 320 亿参数的模型。
- 上下文长度：至少需要 32KB；建议 64KB 以获得最佳性能。
- 能力：在文档索引阶段，避免使用主要专注于推理的模型。在查询阶段，建议使用比索引阶段更强大的模型以获得更好的结果。
-
Embedding 模型
- 一个高性能、多语言的 embedding 模型至关重要。推荐的模型包括
BAAI/bge-m3和text-embedding-3-large。 - 一致性至关重要：文档索引和查询必须使用相同的 embedding 模型。如果更换模型，您必须清除现有的向量数据，以便 LightRAG 使用正确的维度重新生成。
- 一个高性能、多语言的 embedding 模型至关重要。推荐的模型包括
-
重排序器模型 (Reranker model)
- 集成一个 reranker 模型可以显著提高检索性能，尤其是在使用'mix'查询模式时。
- 推荐的模型包括
BAAI/bge-reranker-v2-m3或来自 Jina 等提供商的商业产品。 - 机制：将用户查询与候选文档输入同一模型（如 Cross-Encoder），输出 0-1 的相似度分数，基于上下文深度分析语义匹配度，并按分数对文档降序排列，优先保留最相关片段。
二、本地部署流程
1. 环境准备
工具清单：
- Python 3.10.5+
- PyCharm 或任意 IDE
- Windows 11 / Linux / macOS
首先配置 Python 环境。打开终端，安装前端构建工具 Bun：
powershell -c "irm bun.sh/install.ps1|iex"
2. 安装与构建
安装 LightRAG 服务器、Core 并运行服务：
pip install "lightrag-hku[api]"
pip install lightrag-hku
# 构建前端代码
cd lightrag_webui
bun install --frozen-lockfile
bun run build
cd ..
# 配置环境变量
cp env.example .env
修改 .env 文件以配置 LLM 和 Embedding 模型。例如使用阿里云百炼平台接口：
### LLM Configuration
LLM_BINDING=openai
LLM_MODEL=qwen3-max
LLM_BINDING_HOST=https://dashscope.aliyuncs.com/compatible-mode/v1
=sk-XXXXXXXXXXXXXXX
=openai
=text-embedding-v1
=
=https://dashscope.aliyuncs.com/compatible-mode/v1
=sk-XXXXXXXXXXXXXXX
