本地知识库快速部署指南:FastGPT + Dify + Ollama 集成方案
本文介绍如何在本地环境中部署 Dify、FastGPT 知识库平台及 Ollama 大语言模型,实现私有化 AI 知识库的搭建。通过 Docker 容器化技术,用户可以轻松运行这些工具,并结合本地模型进行数据检索与对话。
环境准备
- 操作系统:支持 macOS (M1/M2/M3), Windows, Linux。
- 硬件要求:建议内存至少 16GB。若使用 Ollama 运行 3B 参数量的模型,需确保 CPU/GPU 散热良好。
- 软件依赖:安装 Docker Desktop 或 Docker Engine。
- Mac 用户推荐使用官方 Docker Desktop。
- Windows/Linux 用户可前往 Docker 官网下载安装包。
- 网络环境:确保能访问 GitHub 获取代码镜像,国内用户建议使用 Docker 镜像加速器。
第一步:部署 Dify
Dify 是一个开源的 LLM 应用开发平台,支持工作流编排和知识库管理。
1. 获取代码
访问 Dify GitHub 仓库,下载源码或直接下载 ZIP 文件包。
2. 启动服务
进入 docker 文件夹,执行以下命令自动拉取镜像并启动容器:
docker-compose up -d
等待服务启动完成后,在浏览器访问 http://localhost/install 进行初始化配置。
3. 注意事项
- 若国内网络下载镜像受阻,请配置 Docker 镜像加速器。
- 详细文档请参考 Dify 官方 QuickStart 指引。
第二步:部署 FastGPT
FastGPT 是另一个专注于知识库问答的开源项目,支持更灵活的 Agent 构建。
1. 获取代码
访问 FastGPT GitHub 仓库,下载源码。
2. 配置文件
FastGPT 默认没有 docker-compose.yml,需指定配置文件。通常使用 docker-compose-pgvector.yml。
同时需在 docker 目录下创建 config.json 文件,参考官方示例配置数据库连接及密钥信息。
3. 启动服务
执行以下命令启动服务:
docker-compose -f docker-compose-pgvector.yml up -d
启动后访问 http://localhost:3000 即可使用主界面。
4. 管理员配置
- 模型配置页面地址:
http://localhost:3001 - 默认账号:
root - 默认密码:可在
config.json中查看,通常为123456或自定义。
第三步:部署 Ollama
Ollama 用于在本地运行大语言模型,作为 Dify 和 FastGPT 的后端推理引擎。
1. 安装 Ollama
前往 Ollama 官网下载并安装对应系统的客户端。
2. 运行模型
以 llama3.2:3b 为例,执行以下命令下载并运行模型:


