10 分钟部署大模型：本地知识库搭建指南（Ollama + Dify + Docker）

第三步：部署 Dify 平台

Dify 提供了可视化的工作流编排能力，是连接 Ollama 和本地知识库的最佳桥梁。

1. 获取 Dify 源码

从 GitHub 官方仓库下载 Dify 的最新版本： https://github.com/langgenius/dify

2. 初始化环境

进入解压后的 docker 目录，执行以下命令复制配置文件并启动服务：

cd docker
cp .env.example .env
docker compose up -d

此过程会拉取所有必要的镜像（如 MySQL, Redis, Worker 等），可能需要几分钟时间。

3. 访问管理后台

浏览器访问 http://localhost/signin，首次登录需要注册管理员账号。

第四步：配置 Dify 连接 Ollama

这是最关键的一步，将本地运行的 Ollama 接入 Dify 作为模型提供商。

1. 添加模型提供商

1. 登录 Dify 控制台，进入「设置」->「模型供应商」。
2. 选择「Ollama」作为提供商。
3. 输入 Ollama 的服务地址。在 Windows 本地部署时，通常为 http://host.docker.internal:11434（如果是在 Docker 内部调用宿主机服务）或直接 http://localhost:11434。
4. 保存配置。

2. 启用模型

在模型列表中勾选已安装的模型（如 llama3.1），并设置其为默认模型或特定任务模型。

第五步：创建本地知识库

Dify 的核心优势在于 RAG（检索增强生成）能力。

1. 创建知识库

1. 进入「知识库」模块，点击「创建知识库」。
2. 命名知识库（例如'个人技术文档'），选择文本分段模式（推荐自动分段）。
3. 上传你的 PDF、Word、Markdown 或 TXT 文件。

2. 创建应用程序

1. 进入「应用」模块，选择「聊天助手」或「工作流」。
2. 在「提示词」设置中，开启「引用来源」功能。
3. 在「上下文」设置中，关联刚才创建的知识库。
4. 发布应用，获取 API 链接或嵌入代码。

总结

通过以上步骤，你成功搭建了一个完全私有的大模型知识库系统。相比云端 API，本地部署具有以下显著优势：

1. 数据安全：所有数据不出内网，敏感信息得到保护。
2. 成本可控：无需按 Token 付费，仅需承担硬件电费。
3. 灵活定制：可根据业务需求调整模型参数和工作流逻辑。

这套方案不仅适用于个人知识管理，也适合中小型企业构建内部智能助手。后续可进一步探索 Agent 自动化、多模态处理等高级功能。