Ollama Windows 安装与使用指南：本地运行 Llama、DeepSeek 大模型

拉取并运行您的第一个模型

在命令提示符中，使用 ollama run 命令。例如，要运行 Meta 发布的 Llama 3 模型：

ollama run llama3

Ollama 会自动从模型库下载所需文件。下载完成后，直接进入交互式对话界面，你可以开始输入问题。

常用模型管理命令

掌握这几个命令，就能高效管理本地模型：

模型选择建议

根据硬件配置选择合适的模型，能在性能和效果间取得良好平衡：

• 低配设备（8GB 内存）：建议运行 1.5B 或 7B 参数模型，如 deepseek-r1:1.5b。
• 中端设备（16GB 内存）：可流畅运行 7B 或 13B 参数模型，如 llama3:8b 或 qwen2:7b。
• 高性能设备（32GB+ 内存）：可尝试 34B 或 70B 参数的大型模型。

进阶应用

Ollama 不仅是一个命令行工具，更是一个本地 AI 服务器，支持多种集成方式。

使用 API 接口

Ollama 在安装后会自动在后台启动一个服务，默认监听 http://localhost:11434。这意味着你可以通过任何编程语言来调用它。

Python 调用示例：Ollama 提供了官方的 Python 库，可以非常方便地集成到你的项目中。

首先安装 Python 库：

pip install ollama

然后编写代码：

import ollama

response = ollama.chat(
    model='llama3', 
    messages=[{'role': 'user', 'content': '为什么天空是蓝色的？'}]
)
print(response['message']['content'])

测试 API：你也可以使用 curl 进行快速测试：

curl http://localhost:11434/api/generate -d '{ "model": "llama3", "prompt": "请用中文介绍一下你自己", "stream": false }'

使用图形化界面（WebUI）

如果不习惯命令行，可以部署 Open WebUI 等图形界面，获得类似 ChatGPT 的体验。使用 Docker 是启动 Open WebUI 最简单的方式：

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

安装后，在浏览器中访问 http://localhost:3000 即可使用。首次使用需要创建账号，在设置中确保'Ollama Base Url'正确指向 http://127.0.0.1:11434。

常见问题与优化