跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客GitHub 精选镜像工具UI配色美学隐私政策关于联系
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
编程语言AI算法

Ollama Windows 安装与使用指南:本地运行 Llama、DeepSeek 大模型

综述由AI生成Ollama 是一款开源工具,支持在 Windows 上本地运行 Llama、DeepSeek 等大语言模型。文章介绍了环境要求、两种安装方式(官方安装包及命令行)、基础命令(run/pull/list)、模型选择建议以及 API 和 WebUI 的进阶用法。内容涵盖常见问题排查,旨在帮助用户实现零配置的本地 AI 开发体验,保障数据隐私。

ByteFlow发布于 2026/4/5更新于 2026/5/2627 浏览
Ollama Windows 安装与使用指南:本地运行 Llama、DeepSeek 大模型

核心摘要

Ollama 是一个开源工具,可让用户在 Windows 电脑上轻松运行 Llama、DeepSeek 等主流大语言模型。安装过程简单,支持官方安装包或命令行安装。安装后,通过 ollama run 命令即可启动模型交互,常用命令包括模型管理(list/pull/rm)和状态查看(ps)。根据硬件配置,可选择不同参数规模的模型。进阶应用支持 API 调用(默认端口 11434)和图形界面(Open WebUI),提供类似 ChatGPT 的体验。常见问题包括模型下载慢、端口冲突等,可通过代理、修改环境变量等方式解决。该工具无需复杂配置,保障数据隐私,适合本地 AI 开发与使用。

一、环境准备与系统要求

在开始安装前,请确保您的 Windows 设备满足以下条件,这是顺利运行的基础。

组件最低要求推荐配置
操作系统Windows 10/11 64 位Windows 11 22H2 或更新版本
内存(RAM)8 GB(可运行 1B-7B 参数模型)16 GB 或以上(可流畅运行 13B 参数模型)
存储空间至少 10 GB 可用空间50 GB 或更多(SSD 优先,用于存放模型文件)
显卡(GPU)集成显卡(使用 CPU 模式运行)NVIDIA 独立显卡(显存 ≥ 8GB)以获得 GPU 加速

必要检查:

  • 验证显卡驱动:按 Win + R 键,输入 cmd 打开命令提示符,然后输入 nvidia-smi。如果显示出显卡驱动和 CUDA 版本信息,说明驱动已就绪。
  • 确认 Python:在命令提示符中输入 python --version,建议版本为 3.8 或以上。

二、安装 Ollama

您可以选择以下任意一种方法进行安装。

方法一:使用官方安装包(最简单,推荐新手)

这是最直接的方式,适合绝大多数用户。

  1. 下载安装程序:访问 https://ollama.com/download,选择'Download for Windows'。这会下载一个名为 OllamaSetup.exe 的文件。
  2. 运行安装:双击下载的 .exe 文件,如果出现用户账户控制(UAC)提示,请点击'是'。安装程序将自动完成所有配置,包括将 Ollama 添加到系统路径。

验证安装:安装完成后,重新打开一个新的命令提示符(CMD)或 PowerShell 窗口,输入以下命令:

ollama --version 

如果正确显示版本号(例如 ollama version 0.1.20),则说明安装成功。

方法二:通过命令行安装(可选)

如果您习惯使用命令行,或者遇到网络问题,可以尝试此方法。

  1. 以管理员身份打开 PowerShell。

执行以下命令一键安装(需支持 winget):

winget install ollama

如果因网络问题下载缓慢,可以尝试使用国内镜像源加速。(可选)修改模型存储路径:默认情况下,模型会下载到 C 盘用户目录。如果 C 盘空间紧张,可以提前修改存储位置。右键点击'此电脑' -> '属性' -> '高级系统设置' -> '环境变量',在'系统变量'中点击'新建',创建一个名为 的新变量,将其值设置为您想要的路径,例如 。设置后需重启 Ollama 服务。

OLLAMA_MODELS
D:\ollama\models

三、基础使用:快速开始

安装成功后,您就可以开始体验本地大模型了。

1. 拉取并运行您的第一个模型

在命令提示符中,使用 ollama run 命令。例如,要运行 Meta 发布的 Llama 3 模型:

ollama run llama3 

Ollama 会自动从模型库下载所需的文件。下载完成后,会直接进入交互式对话界面,您可以开始输入问题。

2. 常用模型管理命令

掌握以下几个命令,就能高效管理您的本地模型:

命令作用示例
ollama list列出本地已下载的所有模型ollama list
ollama pull仅下载模型,但不立即运行ollama pull deepseek-r1:7b
ollama rm删除本地不再需要的模型ollama rm llama2:13b
ollama ps查看当前正在运行的模型ollama ps

3. 模型选择建议

根据您的硬件配置选择合适的模型,可以在性能和效果间取得良好平衡:

  • 低配设备(8GB 内存):建议运行 1.5B 或 7B 参数模型,如 deepseek-r1:1.5b。
  • 中端设备(16GB 内存):可流畅运行 7B 或 13B 参数模型,如 llama3:8b 或 qwen2:7b。
  • 高性能设备(32GB+ 内存):可尝试 34B 或 70B 参数的大型模型。

四、进阶应用

Ollama 不仅是一个命令行工具,更是一个本地 AI 服务器,支持多种集成方式。

1. 使用 API 接口

Ollama 在安装后会自动在后台启动一个服务,默认监听 http://localhost:11434。这意味着您可以通过任何编程语言来调用它。

Python 调用示例:Ollama 提供了官方的 Python 库,可以非常方便地集成到您的项目中。

# 首先安装 Python 库:pip install ollama
import ollama
response = ollama.chat(model='llama3', messages=[{'role':'user','content':'为什么天空是蓝色的?',}])
print(response['message']['content'])

测试 API:您可以使用 curl 进行快速测试:

curl http://localhost:11434/api/generate -d '{ "model": "llama3", "prompt": "请用中文介绍一下你自己", "stream": false }'

2. 使用图形化界面(WebUI)

如果您不习惯命令行,可以部署 Open WebUI 等图形界面,获得类似 ChatGPT 的体验。
使用 Docker 是启动 Open WebUI 最简单的方式:

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main 

安装后,在浏览器中访问 http://localhost:3000 即可使用。首次使用需要创建账号,在设置中确保'Ollama Base Url'正确指向 http://127.0.0.1:11434。

五、常见问题与优化

问题原因与解决方案
模型下载慢或失败由于网络原因,可以尝试使用代理或多次重试命令。部分社区教程提供了通过国内镜像站手动下载模型文件的方法。
端口冲突如果 11434 端口被占用,可以设置环境变量 OLLAMA_HOST 来更改端口,例如 set OLLAMA_HOST=127.0.0.1:11435,然后重启 Ollama 服务。
显存不足尝试拉取参数更小或经过量化的模型版本(通常在模型名中带有 q4_0, q6_k 等后缀),或在运行命令时添加 --num_gpu 1 等参数限制 GPU 使用层数。

目录

  1. 核心摘要
  2. 一、环境准备与系统要求
  3. 二、安装 Ollama
  4. 方法一:使用官方安装包(最简单,推荐新手)
  5. 方法二:通过命令行安装(可选)
  6. 三、基础使用:快速开始
  7. 1. 拉取并运行您的第一个模型
  8. 2. 常用模型管理命令
  9. 3. 模型选择建议
  10. 四、进阶应用
  11. 1. 使用 API 接口
  12. 首先安装 Python 库:pip install ollama
  13. 2. 使用图形化界面(WebUI)
  14. 五、常见问题与优化
  • 💰 8折买阿里云服务器限时8折了解详情
  • Magick API 一键接入全球大模型注册送1000万token查看
  • 🤖 一键搭建Deepseek满血版了解详情
  • 一键打造专属AI 智能体了解详情
极客日志微信公众号二维码

微信扫一扫,关注极客日志

微信公众号「极客日志V2」,在微信中扫描左侧二维码关注。展示文案:极客日志V2 zeeklog

更多推荐文章

查看全部
  • 基于Java的供应链预测性分析引擎构建
  • EhViewer:安卓开源漫画工具安装与使用教程
  • Vue Element UI 日历组件实现日程安排与区间查询
  • Java 核心面试知识点与实战问答整理
  • Mac Big Sur 使用 Docker 运行 OpenCode 实现 AI 自动化开发流程
  • Python Pandas 库核心用法详解
  • 老手机 本地部署小龙虾OpenClaw(使用本地千问大模型)实机演示 Termux+Ubuntu+Llama 新手完整安装教程(含代码)
  • Luma AI Dream Machine 视频生成模型评测与使用指南
  • 网络安全、信息安全与数据安全的概念辨析
  • Windows 本地部署 Ollama 与 OpenClaw 构建 AI 工作流
  • GitHub 核心功能与操作指南
  • JiuwenClaw AI 智能体实战:从安装到多端协同应用
  • 基于 Rust 与 DeepSeek 的微服务日志智能诊断实践
  • OpenAI gpt-oss 模型本地部署实战指南
  • Moon VR Video Player 使用指南:支持 8K/12K 多音轨及外挂字幕
  • 基于宝塔面板与 Nginx 部署智能协同云图库项目实战
  • 2025 嵌赛获奖作品:基于 ELF 2 开发板的多传感信息融合多用途巡检机器人
  • 前端数据库 IndexedDB 详解:构建强大的离线 Web 应用
  • Windows 本地部署 Ollama 与 OpenClaw 构建 AI 工作流
  • Windows 本地部署 Ollama 与 OpenClaw 构建 AI 自动化工作流

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online