基于 Dify 与 Ollama 部署本地大模型知识库实战指南
前言
在数据隐私日益重要的今天,将大语言模型(LLM)私有化部署成为许多企业和开发者的首选。本文承接上篇关于 Ollama + Docker 的部署内容,详细介绍如何使用开源应用编排平台 Dify 结合本地运行的 Ollama 模型,构建一个完全属于你自己的本地大模型知识库系统。
Dify 是一个开源的大模型应用开发平台,支持快速搭建 RAG(检索增强生成)应用、Agent 工作流等。配合 Ollama 提供的本地推理能力,我们可以实现零成本、高隐私的 AI 应用落地。
一、环境准备
1. 系统要求
- 操作系统:Linux (Ubuntu 20.04+), macOS, Windows 10/11
- 硬件配置:建议至少 8GB 内存,若运行较大参数模型(如 Llama3-70B),建议 32GB+ 内存及独立显卡
- 软件依赖:
- Docker Engine 20.10+
- Docker Compose v2.0+
- Git
2. 前置检查
确保 Docker 服务正常运行,并检查端口占用情况(默认使用 8080 端口):
docker --version
docker compose version
netstat -tulpn | grep 8080
二、Dify 部署步骤
1. 获取 Dify 源码
从 GitHub 官方仓库下载最新稳定版压缩包:
git clone https://github.com/langgenius/dify.git
cd dify/docker
2. 配置文件初始化
进入 docker 目录后,复制环境变量模板文件:
cp .env.example .env
编辑 .env 文件,修改关键配置项:
APP_SECRET: 设置一个强随机字符串,用于加密敏感信息DB_PASSWORD: 数据库密码,建议包含大小写字母和数字PORT: 如需修改访问端口(默认 8080)
注意:生产环境请务必修改默认密码,避免安全风险。
3. 启动服务
执行以下命令拉起所有容器:
docker compose up -d
启动完成后,可通过以下命令查看日志确认状态:
docker compose logs -f
4. 初始化安装
浏览器访问 http://localhost:8080/install,按照向导完成管理员账户注册。首次登录需设置组织名称及基础信息。
三、接入 Ollama 本地模型
1. 配置模型连接
在 Dify 管理后台,依次点击 设置 -> 模型供应商 -> Ollama。
- :填写已在 Ollama 中拉取的模型名(如 , )


