Win11 环境下搭建 Docker + Dify + Ollama 本地 AI Agent

正式开始

硬件参考

建议配置：RTX 4060 Laptop + 8GB 显存 + 16GB 内存。以下基于此环境从零搭建。

第一步：下载 Docker

访问 Docker 官网下载 Desktop 版本，选择适用于 Windows AMD64 的安装包进行安装。

第二步：选择大模型

根据硬件配置选择合适的开源模型。例如 Qwen2.5-Coder-7B（中文适配好，约 7.5GB 显存）、DeepSeek-Coder-V3 Small（逻辑强）或 Llama 系列。可通过 AI 助手咨询具体推荐。

第三步：下载 Ollama

1. 访问 Ollama 官网下载 Windows 安装包。
2. 默认安装在 C 盘，可修改环境变量 OLLAMA_MODELS 将模型存储路径更改至其他磁盘（如 E:\OllamaModels）。
   • 打开系统环境变量，新建用户变量。
   • 变量名：OLLAMA_MODELS
   • 变量值：E:\OllamaModels
3. 重启终端验证命令是否可用：ollama --version。

第四步：下载大模型

在终端中运行以下命令下载模型（以 Qwen2.5-Coder-7B 为例）：

ollama run qwen2.5-coder:7b

常用命令参考：

• 查看已下载模型：ollama list
• 仅下载不运行：ollama pull <模型名>
• 删除模型：ollama rm <模型名>

若提示 Warning: could not connect to a running Ollama instance，请双击运行 ollama app.exe 启动后端服务。

第五步：部署 Dify

1. 克隆源代码并进入目录：

git clone https://github.com/langgenius/dify.git
cd dify/docker

2. 复制配置文件并启动：

cp .env.example .env
docker-compose up -d

等待镜像下载完成，这可能需要较长时间。

第六步：访问与排查

启动成功后，浏览器访问 http://127.0.0.1 或 http://127.0.0.1:8090。

常见问题解决：

1. 端口冲突：检查 80 端口占用情况 (netstat -ano | findstr :80)。若被占用，可修改 docker-compose.yaml 中的端口映射（如改为 8090），并在 .env 文件中同步更新 EXPOSE_NGINX_PORT。
2. 页面加载失败：尝试强制刷新 (Ctrl+F5) 或使用无痕模式。检查 API 容器日志 (docker-compose logs -f api) 确认数据库连接状态。
3. URL 报错：检查 .env 文件中的 CONSOLE_API_URL、SERVICE_API_URL 等变量，确保格式正确且包含协议头（如 http://127.0.0.1:8090）。

第七步：配置模型供应商

1. 注册管理员账户并登录 Dify。
2. 进入设置 -> 模型供应商，添加 Ollama。
3. 填写配置：
   • 模型类型：LLM
   • 模型名称：qwen2.5-coder:7b
   • 基础 URL：http://host.docker.internal:11434
   • 上下文长度：根据内存调整（如 8192）
   • 支持函数调用：是

后续使用

下次启动只需执行：

1. 打开 Docker Desktop。
2. 打开 Ollama 应用。
3. 进入 ~/dify/docker 目录运行 docker-compose up -d。
4. 访问网页端。

注意事项

关闭终端不会停止容器，需手动输入 docker-compose down 停止服务。