跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客GitHub 精选镜像工具UI配色美学隐私政策关于联系
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
编程语言AI

在 Windows 上本地运行 DeepSeek 的三步指南

在 Windows 系统上通过 Docker、CUDA 和 Ollama 本地部署开源大语言模型的方法。主要步骤包括安装 Docker Desktop、配置 NVIDIA CUDA 驱动、使用 Ollama 拉取并运行模型,以及通过 Open-WebUI 提供图形化界面。该方法支持离线使用,无需依赖云端 API,适合具备一定命令行操作基础的用户进行本地 AI 推理实验。

修罗发布于 2026/3/17更新于 2026/6/1434 浏览
在 Windows 上本地运行 DeepSeek 的三步指南

在 Windows 上本地运行 DeepSeek

文章配图

步骤 1:安装 Docker 桌面

如果您尚未安装,请访问 Docker 官方网站下载并运行安装程序。

如需特定设置(如使用 WSL),请参考相关文档。确认安装完成后继续下一步。

步骤 2:安装 CUDA 以获得 GPU 支持

若需使用 NVIDIA 显卡运行大语言模型,必须安装 CUDA 驱动程序。

访问 CUDA 下载页面,选择"Windows"及相应选项,将安装程序类型设为'本地':

文章配图

下载并完成安装后重启计算机。

步骤 3:安装 Ollama 并下载模型

前往 Ollama 官网下载并安装工具。Ollama 是一款开源 AI 工具,允许用户在本地设备上运行大型语言模型。

安装后打开 Windows PowerShell,运行以下命令验证安装:

ollama -v

文章配图

访问 Ollama 网站选择模型(建议从 7B 版本开始测试):

文章配图

复制命令并在 PowerShell 中运行:

ollama run <model_name>

文章配图

模型将自动下载并启动 Shell,可直接对话。输入 /bye 退出,继续配置图形界面。

步骤 4:安装 Open-WebUI

打开 Open-WebUI GitHub 页面,找到'Open WebUI with Nvidia GPU support'部分。

复制命令并在 PowerShell 中运行,这将下载所需的 Docker 镜像并启动容器。

通过 http://localhost:3000/ 访问该容器。

文章配图

界面左侧为聊天栏,左上角可选择已安装的模型。Open-WebUI 支持 RAG、图像生成、网页浏览等功能。

参考文档:Open-WebUI GitHub

目录

  1. 在 Windows 上本地运行 DeepSeek
  2. 步骤 1:安装 Docker 桌面
  3. 步骤 2:安装 CUDA 以获得 GPU 支持
  4. 步骤 3:安装 Ollama 并下载模型
  5. 步骤 4:安装 Open-WebUI
  • 免费图片AI生成工具免费生成了解详情
  • Magick API 一键接入全球大模型注册送1000万token查看
  • 免费图片视频在线生成30秒,将你的创意变成现实开始设计
  • X/Twitter免费视频下载器免登陆无限额度免费视频解析下载了解详情
  • 100+免费在线小游戏爽一把
极客日志微信公众号二维码

微信扫一扫,关注极客日志

微信公众号「极客日志V2」,在微信中扫描左侧二维码关注。展示文案:极客日志V2 zeeklog

更多推荐文章

查看全部
  • Stable Diffusion XL 1.0 灵感画廊免配置部署教程
  • WebGIS 实战:WKT 转 GeoJSON 方法与 Leaflet 集成
  • Windows 11 安装 JDK 25:下载、配置环境变量及验证
  • 大模型 AI 产品经理学习路径:从基础到实战的完整指南
  • 宇树机器人g1二次开发:建图,定位,导航手把手教程(四)导航仿真部分:建完图之后打开仿真导航
  • 2024 信奥赛 C++ 提高组 CSP-S 复赛真题:超速检测
  • Cursor 中配置和使用 MCP 服务实战指南
  • Python 实现月相计算与可视化系统
  • Git 安装流程与基础使用指南
  • Lit 与 Alpine.js:轻量级前端开发的两种路径
  • 吴恩达机器学习:逻辑回归算法详解
  • Unreal 引擎对 C++ 的改造:初识非标准 C++ 特性
  • OpenClaw 接入 QVeris:为 AI 助手赋予实时数据查询能力
  • OpenClaw 架构原理:AI 智能体操作系统
  • 物联网固件 Web 管理接口漏洞挖掘与命令注入实战
  • 知网 AIGC 检测原理及降低 AI 疑似度策略
  • 渗透测试实战:获取并破解 Net-NTLMv2 哈希
  • 相干伊辛机在医疗及 AI 领域的应用前景
  • 队列的数组模拟与 STL queue 实战详解
  • Android 11.0 Framework 核心原理与系统启动流程解析

相关免费在线工具

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online

  • Base64 文件转换器

    将字符串、文件或图像转换为其 Base64 表示形式。 在线工具,Base64 文件转换器在线工具,online

  • Markdown转HTML

    将 Markdown(GFM)转为 HTML 片段,浏览器内 marked 解析;与 HTML转Markdown 互为补充。 在线工具,Markdown转HTML在线工具,online