跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书AI学习GitHub 精选镜像AI 生图工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
编程语言AI

在 Windows 上本地运行 DeepSeek 的三步指南

在 Windows 系统上通过 Docker、CUDA 和 Ollama 本地部署开源大语言模型的方法。主要步骤包括安装 Docker Desktop、配置 NVIDIA CUDA 驱动、使用 Ollama 拉取并运行模型,以及通过 Open-WebUI 提供图形化界面。该方法支持离线使用,无需依赖云端 API,适合具备一定命令行操作基础的用户进行本地 AI 推理实验。

修罗发布于 2026/3/17更新于 2026/10/1596 浏览
在 Windows 上本地运行 DeepSeek 的三步指南

在 Windows 上本地运行 DeepSeek

文章配图

步骤 1:安装 Docker 桌面

如果您尚未安装,请访问 Docker 官方网站下载并运行安装程序。

如需特定设置(如使用 WSL),请参考相关文档。确认安装完成后继续下一步。

步骤 2:安装 CUDA 以获得 GPU 支持

若需使用 NVIDIA 显卡运行大语言模型,必须安装 CUDA 驱动程序。

访问 CUDA 下载页面,选择"Windows"及相应选项,将安装程序类型设为'本地':

文章配图

下载并完成安装后重启计算机。

步骤 3:安装 Ollama 并下载模型

前往 Ollama 官网下载并安装工具。Ollama 是一款开源 AI 工具,允许用户在本地设备上运行大型语言模型。

安装后打开 Windows PowerShell,运行以下命令验证安装:

ollama -v

文章配图

访问 Ollama 网站选择模型(建议从 7B 版本开始测试):

文章配图

复制命令并在 PowerShell 中运行:

ollama run <model_name>

文章配图

模型将自动下载并启动 Shell,可直接对话。输入 /bye 退出,继续配置图形界面。

步骤 4:安装 Open-WebUI

打开 Open-WebUI GitHub 页面,找到'Open WebUI with Nvidia GPU support'部分。

复制命令并在 PowerShell 中运行,这将下载所需的 Docker 镜像并启动容器。

通过 http://localhost:3000/ 访问该容器。

文章配图

界面左侧为聊天栏,左上角可选择已安装的模型。Open-WebUI 支持 RAG、图像生成、网页浏览等功能。

参考文档:Open-WebUI GitHub

目录

  1. 在 Windows 上本地运行 DeepSeek
  2. 步骤 1:安装 Docker 桌面
  3. 步骤 2:安装 CUDA 以获得 GPU 支持
  4. 步骤 3:安装 Ollama 并下载模型
  5. 步骤 4:安装 Open-WebUI

更多推荐文章

查看全部
  • Stable Diffusion WebUI 云服务器部署实战
  • C++ 二叉搜索树:概念、性能分析与核心实现
  • AI 创作者的多维价值与深远影响分析
  • 无需公网 IP 实现 PostgreSQL 远程访问
  • NVIDIA DGX Spark 部署 Stable Diffusion 3.5 与 ComfyUI 实战指南
  • C++ 设计模式详解:创建、结构及行为型核心实现
  • 医学统计学核心概念与Python代码实践
  • Python 全栈开发:FastAPI 高性能后端开发
  • 程序员如何入局 AI 大模型及职业发展路径
  • CleanShot X Mac 截图录屏及 GIF 录制完整指南
  • 本地搭建带知识库的 AI 助手:Ollama + Open WebUI
  • 使用 Layui 框架解决 Unity WebGL 渲染在 Tab 切换时黑屏问题
  • Win11 Gaming Copilot 隐私风险及设置关闭指南
  • C++ STL string 类从零实现详解
  • YOLOv8 实战:智能家居安防系统部署
  • C#/.NET/.NET Core优秀项目和框架 2024年3月简报
  • 基于 Protege 与 Neo4j 的教育领域知识图谱构建及前端可视化
  • 非标自动化教学系列课程
  • 医疗连续体机器人模块化控制界面设计与 Python 库应用(下)
  • 爆火 OpenClaw「龙虾」从 0 到 1 保姆级全指南:安装→QQ 机器人→运维→卸载全流程,附全网高频报错解决方案

相关免费在线工具

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online

  • Base64 文件转换器

    将字符串、文件或图像转换为其 Base64 表示形式。 在线工具,Base64 文件转换器在线工具,online

  • Markdown转HTML

    将 Markdown(GFM)转为 HTML 片段,浏览器内 marked 解析;与 HTML转Markdown 互为补充。 在线工具,Markdown转HTML在线工具,online