OpenClaw + Ollama 集成指南：本地私有化部署 LLM

ollama --version

安装完成后，Ollama 会自动注册为系统服务，开机自启。

1.3 拉取基础大模型

Ollama 支持一键拉取主流开源模型。推荐通义千问系列，中文适配性最佳：

# 拉取 Qwen2.5 7B 模型（约 4.7GB，推荐，兼顾性能与硬件要求）
ollama pull qwen2.5:7b

# 更强推理能力（显存≥10GB 可选）
ollama pull qwen3:8b

# 轻量版（显存 4GB 可用）
ollama pull qwen2.5:4b

# 英文场景可选 Llama3
ollama pull llama3:8b

拉取过程耗时 5~20 分钟，取决于网络速度。模型文件会自动存储在 Ollama 目录。

1.4 验证本地对话

拉取完成后，可以直接在终端测试模型：

ollama run qwen2.5:7b

输入'你好'，看到模型正常回复，说明 Ollama 已就绪。

1.5 关键定制：扩展上下文窗口（必做）

OpenClaw 要求模型上下文窗口**≥16000 tokens**，而 Ollama 基础模型默认仅 4096 tokens。必须手动定制扩展：

基础模型 (上下文 4096) → 创建 Modelfile (设置 num_ctx 32768) → 创建自定义模型 (新模型 上下文 32768) → 满足 OpenClaw 要求

Windows PowerShell（管理员身份）：

# 1. 切换到用户根目录
cd C:\Users\<你的用户名>

# 2. 创建 Modelfile 配置文件
@"FROM qwen2.5:7b PARAMETER num_ctx 32768"@ | Out-File -Encoding ascii Modelfile

# 3. 验证配置文件
Get-Content Modelfile

# 4. 创建自定义模型（命名为 qwen2.5:7b-32k）
ollama create qwen2.5:7b-32k -f Modelfile

# 5. 验证自定义模型
ollama list
# 应显示 qwen2.5:7b-32k
ollama show qwen2.5:7b-32k --modelfile
# 确认包含 num_ctx 32768

macOS/Linux 用户：

# 创建 Modelfile
echo "FROM qwen2.5:7b\nPARAMETER num_ctx 32768" > Modelfile

# 创建自定义模型
ollama create qwen2.5:7b-32k -f Modelfile

# 验证
ollama list

二、OpenClaw 对接 Ollama：让大脑连接身体

2.1 OpenClaw 安装

# npm 全局安装 OpenClaw（最新稳定版）
npm install -g openclaw

# 验证安装
openclaw --version

若权限不足，Windows 请以管理员身份运行 PowerShell，或执行：

npm install -g openclaw --unsafe-perm

2.2 交互式配置：对接本地 Ollama

执行配置向导，将 OpenClaw 指向本地 Ollama：

openclaw onboard

按提示完成以下配置（严格操作，避免错误）：

User → Ollama → OpenClaw 输出 Web UI 地址 http://127.0.0.1:18789 openclaw onboard 测试连接 http://127.0.0.1:11434/v1 返回模型列表验证 qwen2.5:7b-32k 可用 Verification successful

配置完成后，若显示'Verification successful'，表示连接成功；控制台会显示 OpenClaw Web UI 地址（http://127.0.0.1:18789）和管理员 Token，务必保存 Token。

2.3 解决核心报错：模型上下文窗口过小

首次启动可能遇到：

Model context window too small (4096 tokens). Minimum is 16000

这是因为 OpenClaw 缓存了原始模型的 4096 参数，需要手动修改配置文件：

找到两个核心配置文件：

• 主配置文件：C:\Users\<你的用户名>\.openclaw\openclaw.json
• 模型配置文件：C:\Users\<你的用户名>\.openclaw\agents\main\agent\models.json

修改方法：

1. 用记事本打开两个文件
2. 搜索"maxTokens"或"contextWindow"
3. 将值从4096改为32768
4. 保存文件，重启 OpenClaw：openclaw gateway restart

2.4 测试调用

在浏览器打开 http://127.0.0.1:18789，粘贴 Token 登录。输入测试指令：

帮我写一个 Python 函数，计算斐波那契数列 

如果模型正常响应，说明 OpenClaw+Ollama 集成成功！

三、模型适配优化：让本地模型更好用

3.1 提示词适配

不同模型的提示词格式存在差异。Ollama 兼容 OpenAI 格式，但某些模型有特殊要求。

通用适配方案：在 OpenClaw 的~/.openclaw/agents/main/agent/system.md中，针对不同模型设置 system prompt：

# 当使用 Qwen 系列模型时
你是一个有帮助的 AI 助手，用中文回答，保持简洁。

# 当使用 Llama 系列时（英文模型需明确语言）
You are a helpful assistant. Answer in Chinese.

3.2 上下文窗口调整

OpenClaw 允许在配置中动态调整上下文窗口大小：

# 查看当前模型配置
openclaw config get models

# 设置模型参数（临时）
openclaw config set models.providers.custom.options.num_ctx 16384

合理设置上下文窗口的原则：

• 简单对话：4K~8K 足够
• 文件分析、长文档处理：16K~32K
• 代码审查、复杂推理：根据模型能力选择上限

按需配置 num_ctx。

3.3 解决'模型输出不稳定'问题

如果模型输出质量不稳定，可以调整采样参数：

# ~/.openclaw/agents/main/agent/model_settings.yaml
temperature: 0.7 # 0.0-1.0，越低越确定，越高越创造
top_p: 0.9 # 核采样，控制多样性
top_k: 40 # 只考虑概率最高的 k 个 token
repeat_penalty: 1.1 # 重复惩罚，避免循环

四、混合模型策略：本地 + 云端的最佳组合

本地模型虽然零成本，但复杂推理能力不如云端大模型。OpenClaw 支持混合模型策略，根据任务类型动态选择模型。

4.1 路由规则设计

• 简单指令/文件操作/定时任务/简单查询 → 强制本地模型
• 复杂推理/代码审查/创意写作/复杂分析 → 云端模型
• 敏感数据/密码/密钥/token/隐私/机密 → 强制本地模型

4.2 OpenClaw 配置实现

在~/.openclaw/config/models.yaml中配置多模型路由：

# 模型提供商配置
providers:
  local:
    type: custom
    baseUrl: http://127.0.0.1:11434/v1
    apiKey: ollama
    models:
      - qwen2.5:7b-32k
      - llama3:8b
  cloud:
    type: openai
    apiKey: ${OPENAI_API_KEY}
    models:
      - gpt-4
      - gpt-3.5-turbo

# 路由规则
routing:
  # 规则 1：文件操作、系统命令用本地模型
  - pattern: "文件 | 目录 | 备份 | 整理 | 移动 | 复制"
    provider: local
    model: qwen2.5:7b-32k
  # 规则 2：代码审查、复杂问题用 GPT-4
  - pattern: "代码审查 | 优化 | 重构 | 架构 | 设计模式"
    provider: cloud
    model: gpt-4
  # 规则 3：敏感关键词强制本地
  - pattern: "密码 | 密钥 |token| 隐私 | 机密"
    provider: local
    model: qwen2.5:7b-32k
  # 默认规则：根据复杂度动态判断
  - default:
      strategy: dynamic
      local_threshold: 0.7 # 置信度低于 0.7 转云端

4.3 高级优化：Viking 分层路由

对于追求极致 Token 节省的场景，可以参考 OpenClaw-Viking 项目的实现：

用户消息 → Viking Router (轻量模型判断意图) → 路由决策 (需要哪些工具/文件？只加载匹配的工具定义，只注入相关的上下文文件) → 主模型响应 Token 节省 60%-93%

实测效果：

五、性能优化：让本地模型跑得更快

5.1 模型量化：用精度换速度

量化是减少模型内存占用、提升推理速度的核心技术：

原始模型 (FP16 16bit) → 8bit 量化 (内存减半) → 4bit 量化 (内存再减半) → 2bit 量化 (极致压缩，精度损失大)

Ollama 支持多种量化版本：

# 拉取 4bit 量化版本（推荐，平衡速度与精度）
ollama pull qwen2.5:7b-q4_0

# 拉取 8bit 量化版本（更高精度，内存占用稍大）
ollama pull qwen2.5:7b-q8_0

# 拉取 2bit 量化版本（极致压缩，仅限极端场景）
ollama pull qwen2.5:7b-q2_k

量化选择建议：

• 显存充足（≥10GB）：使用 8bit 量化，保留更高精度
• 显存中等（6-8GB）：使用 4bit 量化，最佳平衡点
• 显存紧张（4GB）：使用 4bit 轻量模型，如qwen2.5:4b-q4_0

5.2 硬件加速配置

NVIDIA GPU：

• 安装最新版显卡驱动
• Windows 设置'首选最大性能'电源模式
• 验证 CUDA 可用：ollama run qwen2.5:7b --verbose 查看日志中的设备信息

Apple Silicon (M 系列)：

• Ollama 自动启用 Metal 加速
• 保持充电器插入（某些 Mac 在电池模式下会降速）
• 关闭占用 GPU 的其他应用（视频编辑、浏览器 WebGL 标签）

CPU 优化：

# 设置线程数（通常为物理核心数）
ollama run qwen2.5:7b --num-thread 8

# 限制内存使用
ollama run qwen2.5:7b --memory-limit 8G

5.3 内存优化技巧

1. 合理设置上下文窗口：不需要时保持在 4K-8K，而非始终 32K
2. 定期清理缓存：ollama cleanup
3. 使用批处理：合并多个小任务为单个请求
4. 监控资源：ollama ps 查看运行中的模型

六、实战案例：基于 Ollama+OpenClaw 搭建本地代码审查助手

6.1 需求分析

构建一个能够自动审查 PR、分析代码质量的 AI 助手，要求：

• 所有代码数据留在本地，不上传云端
• 支持 Python、JavaScript、Java 等多种语言
• 发现潜在 bug、安全漏洞、代码风格问题

6.2 系统架构

本地服务器 ←→ GitHub (PR 创建/更新) → Webhook 触发 → OpenClaw 网关 → 代码审查 Skill → 拉取 PR 代码 → 静态分析工具 (ESLint/Pylint) → LLM 分析 (Ollama+Qwen) → 生成审查报告 → 评论到 PR → 开发者查看反馈

6.3 开发步骤

步骤 1：创建代码审查 Skill

创建 ~/.openclaw/skills/code-review/index.ts：

import { exec } from 'child_process';
import { promisify } from 'util';
import fs from 'fs-extra';
import path from 'path';
import { LLM } from 'openclaw-sdk';

const execAsync = promisify(exec);

interface PRParams {
  repo: string; // 仓库名，如 "user/repo"
  prNumber: number; // PR 编号
  baseDir?: string; // 本地克隆目录，默认 ~/repos
}

export async function handler(params: PRParams) {
  const baseDir = params.baseDir || path.join(process.env.HOME, 'repos');
  const repoDir = path.join(baseDir, params.repo.replace('/', '-'));
  const prDir = path.join(repoDir, `pr-${params.prNumber}`);

  // 1. 克隆 PR 代码（如果不存在）
  if (!await fs.pathExists(prDir)) {
    await fs.ensureDir(prDir);
    await execAsync(`git clone https://github.com/${params.repo}.git ${prDir} && ` +
      `cd ${prDir} && git fetch origin pull/${params.prNumber}/head:pr-branch && ` +
      `git checkout pr-branch`);
  }

  // 2. 运行静态分析工具
  const linters = { js: 'npx eslint --format json', py: 'pylint --output-format=json', java: 'checkstyle -c /sun_checks.xml -f xml' };
  const lintResults = {};
  for (const [ext, cmd] of Object.entries(linters)) {
    try {
      const { stdout } = await execAsync(`cd ${prDir} && find . -name "*.${ext}" | xargs ${cmd} 2>/dev/null`);
      lintResults[ext] = JSON.parse(stdout);
    } catch (e) {
      // 某些工具返回非零退出码但仍有输出
      if (e.stdout) {
        try { lintResults[ext] = JSON.parse(e.stdout); } catch {}
      }
    }
  }

  // 3. 获取 PR 的变更文件列表
  const { stdout: diffFiles } = await execAsync(`cd ${prDir} && git diff --name-only origin/main...pr-branch`);
  const changedFiles = diffFiles.split('\n').filter(Boolean);

  // 4. 读取变更内容
  const changes = [];
  for (const file of changedFiles.slice(0, 10)) { // 限制 10 个文件避免 token 爆炸
    if (await fs.pathExists(path.join(prDir, file))) {
      const content = await fs.readFile(path.join(prDir, file), 'utf-8');
      changes.push(`文件：${file}\n\`\`\`${content.slice(0, 1000)}\n\`\`\``);
    }
  }

  // 5. 调用本地 LLM 分析
  const llm = new LLM({ provider: 'local', model: 'qwen2.5:7b-32k' });
  const prompt = `
你是一位资深的代码审查专家。请分析以下 PR 的变更，指出：
1. 潜在的 bug 或逻辑错误
2. 安全漏洞（SQL 注入、XSS 等）
3. 性能问题
4. 代码风格不符合最佳实践的地方
5. 改进建议
变更文件列表：${changedFiles.join('\n')}
静态分析结果：${JSON.stringify(lintResults, null, 2)}
关键变更内容：${changes.join('\n\n')}
请用中文输出审查报告，按严重程度排序。
`;
  const reviewReport = await llm.complete(prompt);

  // 6. 格式化评论
  const comment = `## 🤖 AI 代码审查报告\n\n${reviewReport}\n\n---\n*由 OpenClaw 本地模型自动生成*`;

  // 7. 发布到 PR（需配置 GitHub Token）
  // await postGitHubComment(params.repo, params.prNumber, comment);

  return {
    code: 0,
    data: { reviewed: changedFiles.length, report: comment }
  };
}

步骤 2：配置 GitHub Webhook

在 GitHub 仓库设置中添加 Webhook：

• Payload URL: http://你的 OpenClaw 公网 IP:18789/webhook/github
• Content type: application/json
• Events: 选择'Pull requests'

步骤 3：创建 Cron 任务（可选，定时审查）

# ~/.openclaw/cron/pr-review.yaml
name: pr-review
schedule: "*/30 * * * *" # 每 30 分钟检查一次
type: cron
skill: code-review
params:
  repo: "your-org/your-repo" # 可动态获取最近 PR 的逻辑需在 Skill 中实现

6.4 效果验证

当有新的 PR 创建或更新时，OpenClaw 会自动：

1. 拉取 PR 代码到本地
2. 运行 ESLint/Pylint 等静态分析
3. 用 Qwen 模型深度分析代码逻辑
4. 在 PR 评论区生成审查报告

整个过程零 API 成本，所有数据留在本地服务器，敏感代码永不外泄。

七、结语：本地 AI 的时代已经到来

OpenClaw + Ollama 的组合，让 AI 智能体真正实现了'我的 AI 我做主'：

• 零成本运行：告别按 Token 计费的账单焦虑
• 数据绝对隐私：敏感代码、商业文档永不离开本地
• 离线可用：飞机上、远程机房、内网环境都能工作
• 自由定制：可按需选择模型、调整参数、优化性能

随着 Llama 3、Qwen 3 等开源模型的性能逼近 GPT-4，本地部署的体验正在快速提升。现在，正是拥抱本地 AI 的最佳时机。