本地知识库部署：FastGPT 与 Dify 对接 Ollama 指南
前言
在数据隐私和安全性日益受到重视的今天，将大语言模型（LLM）及知识库应用部署在本地环境成为了许多开发者和企业的首选。本文详细介绍了如何在本地环境中使用 Docker 部署 Dify 和 FastGPT 两个主流的知识库平台，并将它们与 Ollama 本地大语言模型进行对接，实现私有化、离线或内网环境下的智能问答功能。
一、环境准备
1.1 硬件要求
- CPU: 建议 4 核及以上，支持虚拟化技术。
- 内存: 至少 16GB RAM（运行 3B 参数量的模型时建议 16GB+，若运行更大模型需增加至 32GB 或以上）。
- 存储: 预留 50GB 以上可用空间用于镜像、模型权重及数据库文件。
- 网络: 稳定的网络连接用于首次拉取 Docker 镜像。
1.2 软件依赖
- 操作系统: macOS (M1/M2/M3), Linux (Ubuntu 20.04+), Windows 10/11。
- Docker Engine: 版本 20.10 及以上。
- Docker Compose: 版本 2.0 及以上（部分旧版命令为
docker-compose）。 - Ollama: 最新版本。
注意：Mac M3 用户需注意散热问题，运行 3B 大小模型时温度可能接近极限，建议选择量化程度较高的较小模型以平衡性能与发热。
二、部署 Dify
Dify 是一个开源的 LLM 应用开发平台，支持快速构建 RAG（检索增强生成）应用。
2.1 获取代码
访问 Dify GitHub 仓库，下载最新稳定版的源代码或 ZIP 包。
2.2 启动服务
进入解压后的 docker 文件夹，执行以下命令自动下载镜像并启动容器：
docker-compose up -d
该过程可能需要几分钟，取决于网络状况。若遇到镜像拉取失败，请配置国内镜像加速器。
2.3 初始化配置
服务启动后，在浏览器访问 http://localhost/install 完成管理员账号注册。
2.4 调整文件上传限制
默认情况下，Dify 对上传文件大小有限制（如 15MB）。如需修改，编辑 docker 目录下的 .env 文件：
# Upload file size limit, default 15M.
UPLOAD_FILE_SIZE_LIMIT=150
NGINX_CLIENT_MAX_BODY_SIZE=150M
修改后重启容器生效：
docker-compose restart
三、部署 FastGPT
FastGPT 是另一个开源的 AI 知识库工具，基于 Node.js 构建，适合需要高度定制的场景。
3.1 获取代码
从 FastGPT 官方仓库下载源码，进入 files/docker 目录。
