跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书AI学习GitHub 精选镜像AI工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
PowerShellAI

Windows 本地运行 DeepSeek 模型教程

在 Windows 系统上本地运行 DeepSeek 等大语言模型需经历三个核心步骤。首先安装 Docker Desktop 环境,随后配置 CUDA 驱动以利用 GPU 加速。接着安装 Ollama 命令行工具并拉取模型,最后部署 Open-WebUI 提供图形化交互界面。该方法无需云端 API,支持离线运行,适合开发者在本地进行 AI 应用测试与开发。

暖阳发布于 2026/2/7更新于 2026/10/24100 浏览
Windows 本地运行 DeepSeek 模型教程

步骤 0:安装 Docker 桌面

确保已安装 Docker Desktop。如果没有,请访问 Docker 官方网站下载并运行安装程序。如需使用 WSL 等特定设置,请参考相关文档。

文章配图

步骤 1:安装 CUDA 以获得 GPU 支持

若需使用 Nvidia 显卡运行大语言模型,必须安装 CUDA 驱动程序。

访问 CUDA 下载页面,选择 Windows 版本及本地安装程序类型进行下载和安装,完成后重启系统。

文章配图

步骤 2:安装 Ollama 并下载模型

前往 Ollama 官网下载并安装工具。Ollama 是一款开源 AI 工具,允许用户在本地设备上运行大型语言模型。

安装后,打开 Windows PowerShell 验证安装:

ollama -v

文章配图

在 Ollama 网站选择模型(建议从 7B 开始),复制命令并在 PowerShell 中运行以下载模型:

ollama run <model-name>

文章配图

下载完成后将进入对话模式,输入 /bye 退出。

文章配图

文章配图

文章配图

步骤 3:安装 Open-WebUI

访问 Open-WebUI GitHub 页面,找到支持 Nvidia GPU 的版本。复制命令在 PowerShell 中运行,它将下载所需的 Docker 镜像并启动容器。

文章配图

安装完成后,可通过 http://localhost:3000/ 访问 Web 界面。该界面提供聊天侧边栏、模型选择等功能,支持 RAG、图像生成等特性。

文章配图

目录

  1. 步骤 0:安装 Docker 桌面
  2. 步骤 1:安装 CUDA 以获得 GPU 支持
  3. 步骤 2:安装 Ollama 并下载模型
  4. 步骤 3:安装 Open-WebUI

更多推荐文章

查看全部
  • Docker 容器停止命令 docker stop 详解与优雅关机实践
  • GPT 图解大模型是怎样构建的:技术原理与实战解析
  • C++ 与 ROS 中 int main(int argc, char* argv[]) 的区别
  • AI 辅助小说创作实战:6 款工具深度测评与投稿指南
  • Flutter 在 OpenHarmony 实战:Riverpod 2.0 响应式架构与状态治理
  • 从 Java 8 升级到 Java 21:核心新特性对比与实战指南
  • 利用腾讯云 HAI 与 DeepSeek 快速搭建个人网页
  • Linux 基础指令与权限管理详解
  • C++ 套接字(Socket)技术详解
  • 从冯诺依曼到操作系统:打通 Linux 底层核心逻辑
  • C++ 模板深度解析:实例化、重定义与隐藏依赖
  • Python 轻量级 Web 框架 Flask 入门与基础应用
  • Windows 平台零基础部署 Qwen1.5 大模型教程
  • UniApp 移动端人脸识别方案:纯前端实现活体检测与身份核验
  • 最新 AI 论文盘点(2026-03-18):6 篇新作看记忆、长上下文、医疗评测、机器人策略与世界模型
  • 智能家居联动全攻略:新手如何实现多品牌设备统一控制与家庭自动化
  • Jenkins 通过 JNLP 启动 Slave 节点配置详解
  • ANSYS Fluent 2026 R1 新功能:AI 如何重塑汽车风阻优化流程
  • Flutter 全方位深入探索与实战指南
  • 5 个 nano banana 提示词资源网站及生成技巧

相关免费在线工具

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online

  • Base64 文件转换器

    将字符串、文件或图像转换为其 Base64 表示形式。 在线工具,Base64 文件转换器在线工具,online

  • Markdown转HTML

    将 Markdown(GFM)转为 HTML 片段,浏览器内 marked 解析;与 HTML转Markdown 互为补充。 在线工具,Markdown转HTML在线工具,online