本地部署 DeepSeek R1 模型并集成至 Dify 平台

DeepSeek R1 是一款开源推理模型，在保持较低训练成本的同时，性能表现优异。通过 Ollama 工具，开发者可以在本地硬件上快速部署该模型，并结合 Dify 低代码平台构建私有化 AI 应用。本文详细介绍从环境准备到应用集成的完整流程。

一、环境准备与系统要求

在开始部署前，请确保您的机器满足以下基本要求：

操作系统：Windows 10/11, macOS (Apple Silicon 或 Intel), Linux (Ubuntu/CentOS 等)。
内存 (RAM)：建议至少 16GB，运行 7B 版本需 8GB+，14B 版本建议 32GB+。
显存 (VRAM)：若使用 GPU 加速，NVIDIA 显卡显存建议 12GB 以上；Mac M 系列芯片共享内存需 16GB 以上。
网络：用于下载模型权重及连接 Dify 服务。

二、Ollama 安装与配置

Ollama 是运行本地大模型的便捷工具，支持多种量化版本。

2.1 安装 Ollama

访问 Ollama 官网下载对应系统的安装包并完成安装。安装完成后，打开终端（Terminal）或命令提示符（CMD），输入以下命令验证安装是否成功：

ollama --version

若显示版本号信息，则说明安装成功。

2.2 拉取 DeepSeek R1 模型

在 Ollama 界面选择适合您硬件的模型版本。常见的量化版本包括 Q4_K_M（平衡速度与精度）、Q8_0（高精度但占用资源多）。以 14B 版本为例，执行以下命令下载：

ollama pull deepseek-r1:14b

下载过程中会显示进度条，待完成后可通过命令行进行对话测试：

ollama run deepseek-r1:14b

输入问题后，模型将返回响应。按 Ctrl + D 退出对话模式。

三、Dify 平台配置

Dify 是一个开源的大模型应用开发平台，支持接入本地 Ollama 服务。

3.1 部署 Dify

若尚未部署 Dify，推荐使用 Docker Compose 方式。确保服务器已安装 Docker 和 Docker Compose，克隆官方仓库并启动服务：

git clone https://github.com/langgenius/dify.git
cd dify/docker
docker compose up -d

3.2 配置 Ollama 连接

模型名称：填写 deepseek-r1:14b（需与 Ollama 中一致）。
基础 URL：
- 若 Dify 与 Ollama 在同一台机器且通过 Docker 运行，填写 http://host.docker.internal:11434。
- 若在不同机器，填写 Ollama 所在机器的 IP 地址，如 http://192.168.1.100:11434。
API Key：留空即可。

保存配置后，点击测试连接，确认状态为可用。

四、创建 AI 应用

配置完成后，即可在 Dify 中创建基于 DeepSeek R1 的应用。

本地部署 DeepSeek R1 模型并集成至 Dify 平台