对比了 15 款主流开源 RAG 框架，涵盖通用型（如 Dify、Haystack）、轻量化（AutoRAG、LightRAG）、企业级（MaxKB、Cognita）、隐私本地化（Anything-LLM）及多模态增强（R2R、GraphRAG）五大类。重点分析了各框架的核心优势、适用场景、部署方式及社区生态，为开发者根据数据规模、隐私需求和技术栈选择合适的 RAG 解决方案提供决策依据。
随着大语言模型（LLM）的普及，检索增强生成（RAG）技术成为企业构建知识库与智能问答系统的核心工具。然而，开源社区中涌现的 RAG 框架功能各异，如何选择适合自身场景的方案？本文从功能特性、适用场景、社区生态等维度，对 15 款主流开源 RAG 框架进行深度对比，并提供选型建议。
核心优势：全栈 LLM 应用开发平台，支持数百种模型（GPT、Llama3 等）、可视化工作流编排、Agent 框架（50+ 工具链）、LLMOps 监控，覆盖从原型开发到生产部署的全生命周期。
适用场景：企业级生成式 AI 应用（如客服自动化、数据分析报告生成）。
推荐指数：★★★★★
GitHub 星数：84.8k+
开源协议：Apache License 2.0
Dify 是一个开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等，让您可以快速从原型到生产。
# 下载
git clone https://github.com/langgenius/dify.git
cd docker
cp .env.example .env
# 使用 docker-compose.yml 启动
docker compose up -d
# 界面安装：http://localhost/install
核心优势：模块化架构，集成 Elasticsearch、FAISS 等存储和 BERT 等模型，文档丰富且社区活跃，支持端到端问答系统。
适用场景：企业级搜索、复杂 NLP 任务（如摘要、多轮问答）。
推荐指数：★★★★★
GitHub 星数：19.9k
开源协议：Apache License 2.0
Haystack 是一个端到端 LLM 框架，允许您构建由 LLMs、Transformer 模型、向量搜索等提供支持的应用程序。无论您是想执行检索增强生成（RAG）、文档搜索、问答还是答案生成，Haystack 都可以编排最先进的嵌入模型并 LLMs 集成到管道中，以构建端到端 NLP 应用程序并解决您的用例。
# 方式一：pip 安装
pip install haystack-ai
# 方式二：conda 安装
conda config --add channels conda-forge/label/haystack-ai_rc
conda install haystack-ai
# 方式三：代码安装
git clone https://github.com/deepset-ai/haystack.git
cd haystack
pip install --upgrade pip
pip install -e '.[dev]'
核心优势：深度文档解析能力，支持 PDF、表格、图片等多格式数据，引用溯源功能显著降低幻觉风险，新增 Agentic RAG 和音频处理功能。
适用场景：法律合同解析、医疗报告分析等需高精度引用的领域。
推荐指数：★★★★☆
GitHub 星数：46.1k+
开源协议：Apache License 2.0
RAGFlow 是一款基于深度文档理解构建的开源 RAG 引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程，结合大语言模型（LLM）针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。
git clone https://github.com/infiniflow/ragflow.git
cd ragflow/docker
git checkout -f v0.17.2
# Use CPU for embedding and DeepDoc tasks:
docker compose -f docker-compose.yml up -d
# To use GPU to accelerate embedding and DeepDoc tasks:
# docker compose -f docker-compose-gpu.yml up -d
核心优势：拖拽式可视化界面，OpenAI API 兼容，支持快速搭建轻量级问答系统。
适用场景：企业微信/飞书智能客服、学术文献问答。
推荐指数：★★★☆
GitHub 星数：23k+
开源协议：Apache License 2.0
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！
mkdir fastgpt
cd fastgpt
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json
# pgvector 版本 (测试推荐，简单快捷)
curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/deploy/docker/docker-compose-pgvector.yml
# 启动容器
docker-compose up -d
# 目前可以通过 ip:3000 直接访问 (注意开放防火墙)。登录用户名为 root，密码为 docker-compose.yml 环境变量里设置的 DEFAULT_ROOT_PSW。
核心优势：自动化优化 RAG 流程，通过评估数据测试模块组合，省去手动调参，适合开发者快速实验与迭代。
适用场景：动态数据场景（如新闻更新、实时分析）。
推荐指数：★★★★
GitHub 星数：3.7k+
开源协议：Apache License 2.0
AutoRAG 是一款自动优化 RAG 管道的工具。RAG 管道结合了检索和生成模型，用于提高自然语言处理任务的性能。然而，找到适用于特定数据和用例的最佳 RAG 管道是一个复杂且耗时的过程。 AutoRAG 通过自动化评估各种 RAG 模块组合，帮助用户快速找到最优的 RAG 管道。
# 方式一：pip 安装
pip install AutoRAG
# 使用本地模型，安装 gpu 版本
pip install "AutoRAG[gpu]"
# 使用 parsing 版本
pip install "AutoRAG[gpu,parse]"
# 方式二：代码安装
git clone https://github.com/Marker-Inc-Korea/AutoRAG.git
cd AutoRAG
docker compose up -d
# 访问地址：http://localhost:3000
核心优势：双层检索机制（细节 + 抽象）、增量更新算法，计算效率高，支持低资源环境下的动态数据整合。
特色功能：图增强索引、轻量化部署。
推荐指数：★★★★
GitHub 星数：13k+
开源协议：MIT license
LightRAG 是由香港大学团队提出的开源 RAG 框架，通过引入知识图谱和增量更新算法，显著提升了检索效率与生成质量。LightRAG 通过图索引与双层检索的创新设计，解决了传统 RAG 在复杂语义理解与动态数据更新中的瓶颈。
# 方式一：代码安装
git clone https://github.com/HKUDS/LightRAG.git
cd LightRAG
cp .env.example .env
pip install -e .
# 方式二：PyPI 安装
pip install lightrag-hku
# 方式三：docker 安装
docker-compose up -d
# 访问地址：http://localhost:9621
核心优势：精简版 GraphRAG（代码仅 1100 行），支持异步操作和自定义组件，适合研究学习与轻量级知识图谱应用。
推荐指数：★★★☆
GitHub 星数：2.7k+
开源协议：MIT license
nano-GraphRAG 是一个轻量级、高可定制的 GraphRAG 框架，旨在简化传统 GraphRAG 的复杂性，同时保留其核心功能。设计为轻量级、异步和完全类型化，是希望将 GraphRAG 集成到项目中而不增加复杂性的开发者的理想选择。
# 方式一：从源安装（推荐）
git clone https://github.com/gusye1234/nano-graphrag.git
cd nano-graphrag
pip install -e .
# 方式二：PyPi 安装
pip install nano-graphrag
核心优势：开箱即用，支持零代码嵌入第三方系统，内置工作流引擎适配复杂业务逻辑。
适用场景：企业内部知识库问答（如政策查询、技术文档管理）。
推荐指数：★★★★
GitHub 星数：14.9k+
开源协议：GPL-3.0 license
MaxKB = Max Knowledge Base，是一款基于大语言模型和 RAG 的开源知识库问答系统，广泛应用于智能客服、企业内部知识库、学术研究与教育等场景。
# Linux 操作系统
docker run -d --name=maxkb --restart=always -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages registry.fit2cloud.com/maxkb/maxkb
# Windows 操作系统
docker run -d --name=maxkb --restart=always -p 8080:8080 -v C:/maxkb:/var/lib/postgresql/data -v C:/python-packages:/opt/maxkb/app/sandbox/python-packages registry.fit2cloud.com/maxkb/maxkb
# 待所有容器状态显示为 healthy 后，可通过浏览器访问 MaxKB：http://目标服务器 IP 地址:8080
# 默认登录信息 用户名：admin 默认密码：MaxKB@123..
核心优势：专为生产环境设计，提供 MLOps 监控和可定制数据组件，稳定性与扩展性突出。
适用场景：企业级高并发应用部署。
推荐指数：★★★★
GitHub 星数：4k
开源协议：Apache-2.0 license
Cognita 是一个开源的 RAG 框架，由 TrueFoundry 开发。它旨在帮助开发者构建模块化、可扩展的生产级应用程序，特别适合需要端到端 AI 应用开发和部署的场景。
# 代码下载
git clone https://github.com/truefoundry/cognita.git
cd cognita
cp models_config.sample.yaml models_config.yaml
docker-compose --env-file compose.env up
# 访问 qdrant 服务器：http://localhost:6333
# 访问后端：http://localhost:8000
# 访问前端：http://localhost:5001
核心优势：轻量级企业级 RAG，支持私有化部署和低代码开发。
不足：社区生态较弱，功能扩展性有限。
推荐指数：★★★
GitHub 星数：11.7k
开源协议：Apache-2.0 license
llmware 提供了一个统一的框架，用于构建 LLM 基于应用程序（例如 RAG、代理），使用小型专用模型，这些模型可以私密部署，安全地与企业知识源集成，并且经济高效地调整和适应任何业务流程。
# 方式一：代码安装
git clone https://github.com/llmware-ai/llmware.git
cd llmware
sh ./welcome_to_llmware.sh
# 方式二：pip 安装
pip3 install llmware
pip3 install 'llmware[full]'
核心优势：全本地化部署（Ollama + Qdrant），支持工作区隔离管理，保障数据隐私。
适用场景：金融、医疗等敏感领域的私有化知识库。
推荐指数：★★★☆
开源协议：MIT
GitHub 星数：41.6k+
AnythingLLM 是一个全栈应用程序，您可以使用现成的商业大语言模型或流行的开源大语言模型，再结合向量数据库解决方案构建一个私有 ChatGPT，不再受制于人：您可以本地运行，也可以远程托管，并能够与您提供的任何文档智能聊天。
# 下载镜像
docker pull mintplexlabs/anythingllm
# 启动
export STORAGE_LOCATION=$HOME/anythingllm && \
mkdir -p $STORAGE_LOCATION && \
touch "$STORAGE_LOCATION/.env" && \
docker run -d -p 3001:3001 \
--cap-add SYS_ADMIN \
-v ${STORAGE_LOCATION}:/app/server/storage \
-v ${STORAGE_LOCATION}/.env:/app/server/.env \
-e STORAGE_DIR="/app/server/storage" \
mintplexlabs/anythingllm
# 访问地址：http://localhost:3001
核心优势：完全本地化部署，集成 Ollama 和 Qdrant，适配低资源环境。
适用场景：小团队或个人开发者。
推荐指数：★★★☆
开源协议：Apache-2.0 license
GitHub 星数：7.5k+
n8n 推出了 Self-Hosted AI Starter Kit 自托管 AI 入门工具包，帮助用户在本地或私有云环境中快速部署 AI 项目。此工具包利用 Docker Compose 模板，包含多种本地 AI 工具（如 Ollama、Qdrant 和 PostgresQL），并提供 AI 工作流模板和网络配置。
# 克隆仓库
git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git
cd self-hosted-ai-starter-kit
# 启动服务（Nvidia GPU）
docker compose --profile gpu-nvidia up
# AMD GPU
docker compose --profile gpu-amd up
# 访问地址：http://localhost:5678/
核心优势：支持文本、图片、PDF 等多模态数据，自动构建知识图谱，集成语义 + 关键词混合搜索。
适用场景：综合性多模态应用（如新闻分析、跨语言检索）。
推荐指数：★★★★
开源协议：MIT license
GitHub 星数：5.8k+
R2R（Reason to Retrieve）是一种先进的 AI 检索系统，支持具有生产就绪功能的检索增强生成（RAG）。R2R 围绕 RESTful API 构建，提供多模式内容摄取、混合搜索、知识图谱和全面的文档管理。
# 方式一：Quick install and run in light mode
pip install r2r
export OPENAI_API_KEY=sk-...
python -m r2r.serve
# 方式二：run in full mode with Docker
git clone https://github.com/SciPhi-AI/R2R.git
cd R2R
export R2R_CONFIG_NAME=full
OPENAI_API_KEY=sk-...
docker compose -f compose.full.yaml --profile postgres up -d
# 方式三：代码安装
git clone https://github.com/SciPhi-AI/R2R.git
cd R2R/py
pip install -e .[core]
python -m r2r.serve
核心优势：结合知识图谱与 RAG，通过社区检测提升复杂查询准确性，支持全局语义分析。
适用场景：新闻摘要、金融投顾等需多跳推理的场景。
推荐指数：★★★★
开源协议：MIT license
GitHub 星数：23.8k+
GraphRAG（Graph-based Retrieval-Augmented Generation）是由微软提出的基于知识图谱的检索增强生成框架，通过结合图机器学习与 LLM 技术，解决传统 RAG 在复杂推理、全局语义理解上的短板。
GraphRAG 是一种结构化的分层检索增强生成（RAG）方法，而不是使用纯文本片段的朴素语义搜索方法。GraphRAG 流程包括从原始文本中提取知识图谱、构建社区层次结构、为这些社区生成摘要，然后在执行基于 RAG 的任务时利用这些结构。
pip install graphrag
# 准备示例数据集
mkdir -p ./ragtest/input
curl https://www.gutenberg.org/cache/epub/24022/pg24022.txt -o ./ragtest/input/book.txt
# 初始化工作区（注意.env、settings.yaml 配置）
graphrag init --root ./ragtest
# 运行索引
graphrag index --root ./ragtest
# 执行查询
graphrag query --root ./ragtest --method global --query "What are the top themes in this story?"
核心优势：逻辑推理优化，支持多跳问答，解决传统 RAG 的歧义性问题。
适用场景：金融、医疗等专业领域知识推理。
推荐指数：★★★★
开源协议：Apache-2.0 license
GitHub 星数：6.1k+
KAG 是基于 OpenSPG 引擎和大型语言模型的逻辑推理问答框架，用于构建垂直领域知识库的逻辑推理问答解决方案。KAG 可以有效克服传统 RAG 向量相似度计算的歧义性和 OpenIE 引入的 GraphRAG 的噪声问题。
# 设置 HOME 环境变量（仅 Windows 用户需要执行）
# set HOME=%USERPROFILE%
# 下载 docker-compose.yml 并用 Docker Compose 启动服务
curl -sSL https://raw.githubusercontent.com/OpenSPG/openspg/refs/heads/master/dev/release/docker-compose.yml -o docker-compose.yml
docker compose -f docker-compose.yml up -d
# 访问地址：http://127.0.0.1:8887 。Default Username: openspg Default password: openspg@kag
开源 RAG 框架的百花齐放为不同场景提供了多样化选择。企业、团队或个人需结合数据规模、隐私需求、开发能力综合评估，优先选择社区活跃、功能匹配的方案。对于复杂场景，可组合使用多框架（如 RagFlow + GraphRAG）以发挥协同优势。未来，随着 Agent 与多模态技术的融合，RAG 将向更智能、更场景化的方向发展。
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
解析常见 curl 参数并生成 fetch、axios、PHP curl 或 Python requests 示例代码。 在线工具，curl 转代码在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online