在 Windows 上本地运行 DeepSeek
环境准备
安装 Docker Desktop
确保已安装 Docker Desktop。如未安装，请访问 Docker 官方网站下载并运行安装程序。如需使用 WSL 等特定设置，请参考相关文档。
安装 CUDA 驱动
若需使用 NVIDIA 显卡运行大语言模型（LLM），需安装 CUDA 驱动程序。
- 访问 CUDA 下载页面。
- 选择 Windows 平台及本地安装包类型。
- 下载并完成安装，随后重启电脑。
安装 Ollama 与模型
安装 Ollama
前往 Ollama 官网下载 Windows 版本并安装。 安装完成后，打开 Windows PowerShell，运行以下命令验证安装：
ollama -v
下载 DeepSeek 模型
在 PowerShell 中运行以下命令拉取并运行 DeepSeek 模型（以 7B 版本为例）：
ollama run deepseek-r1:7b
系统将根据硬件性能自动下载模型权重。下载完成后即可直接在终端进行对话。
部署 Open-WebUI 界面
为了获得更好的交互体验，建议安装 Open-WebUI。
- 访问 Open-WebUI GitHub 页面。
- 复制支持 NVIDIA GPU 支持的 Docker 启动命令。
- 在 PowerShell 中运行该命令，容器将自动下载镜像并启动。
- 访问 http://localhost:3000/ 即可进入管理界面。
Open-WebUI 提供侧边栏聊天、模型选择等功能，支持 RAG、图像生成等高级特性。
