Windows 11 本地部署 Ollama AI 大模型服务完整指南
简介
Ollama 是一个开源的大型语言模型服务工具,旨在帮助用户快速在本地运行大模型。通过简单的安装指令,用户可以执行一条命令就在本地运行开源大型语言模型。Ollama 极大地简化了在 Docker 容器内部署和管理 LLM(Large Language Model)的过程,使得用户能够快速地在本地运行大型语言模型,无需依赖云端 API。
一、下载安装 Ollama
1. 获取安装包
访问 Ollama 官方主页下载对应系统的安装程序:https://ollama.com/
支持 macOS, Linux 和 Windows 系统。点击 Download 按钮,获取 OllamaSetup.exe 安装程序。
2. 安装步骤
双击安装文件,点击「Install」开始安装。目前的 Ollama 会默认安装到 C 盘,路径如下:
C:\Users\%username%\AppData\Local\Programs\Ollama
安装过程中不会让用户自定义选择安装路径。
3. 退出配置
安装完成后,会在电脑右下角出现 Ollama 图标。建议先不要启动服务,直接右键图标选择「Quit Ollama」退出程序。注意:一定要退出 Ollama,否则后续的环境配置无法生效。
二、环境配置
1. 关闭开机自启动(可选)
Ollama 默认会随 Windows 自动启动。如果不需要,可以在「文件资源管理器」的地址栏中访问以下路径,删除其中的 Ollama.lnk 快捷方式文件,阻止它自动启动:
%APPDATA%\Microsoft\Windows\Start Menu\Programs\Startup
2. 配置环境变量(必须)
Ollama 的默认模型存储路径为:C:\Users\%username%\.ollama\models。无论 C 盘空间大小,建议将模型存储路径更改到其他盘符(如 D 盘),以避免占用系统盘空间并提升读写速度。
打开「系统环境变量」设置,新建一个系统变量:
- 变量名:
OLLAMA_MODELS - 变量值:例如
D:\Work\ollama\models(请确保该文件夹已创建)
3. 配置端口(可选)
Ollama API 的默认访问地址和侦听端口是 http://localhost:11434,只能在装有 Ollama 的系统中直接调用。如果需要在局域网内提供服务,请修改 API 的侦听地址和端口。
在系统环境变量里添加或修改:
- 变量名:
OLLAMA_HOST - 变量值:
:8000(只填写端口号可以同时侦听所有 IPv4 和 IPv6 的 8000 端口)
注:要使用 IPv6,需要 Ollama 0.0.20 或更高版本。另外,可能需要在 Windows 防火墙中开放相应端口的远程访问。
4. 允许浏览器跨域请求(可选)
Ollama 默认只允许来自 127.0.0.1 和 0.0.0.0 的跨域请求。如果你计划在其它前端面板中调用 Ollama API(如 Open WebUI),建议放开跨域限制。
- 变量名:
OLLAMA_ORIGINS


