跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客GitHub 精选镜像AI 生图工具UI配色美学隐私政策关于联系
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
Shell / BashAI算法

本地离线部署 AI 大模型:OpenClaw + Ollama + Qwen 实战

介绍如何在本地电脑通过 Ollama 和 OpenClaw 离线部署阿里通义千问系列大模型。支持 Qwen3.5:cloud 主力模型与 Qwen3:0.6b 轻量模型,无需独立显卡,低配置即可运行。步骤涵盖环境准备、工具安装、模型拉取及可视化界面配置,解决常见连接与内存问题,实现隐私安全的数据处理。

狂少发布于 2026/4/6更新于 2026/7/2358 浏览
本地离线部署 AI 大模型:OpenClaw + Ollama + Qwen 实战

前言

随着开源大模型越来越成熟,我们完全可以在自己电脑上本地运行 AI,不联网、不上传数据、免费使用,隐私性极强。

今天这篇文章,我会一步步带你完成:Ollama + Qwen3.5:cloud(主力模型)+ Qwen3:0.6b(轻量备选)+ OpenClaw 的本地部署,实现一个属于自己的本地聊天 AI,兼顾效果与低配置适配。

项目介绍

本项目实现本地离线运行阿里通义千问系列大模型(Qwen3.5:cloud 主力模型 + Qwen3:0.6b 轻量备选模型),全程不需要云端 API,不需要高性能显卡,普通电脑就能跑,可根据自身电脑配置选择对应模型。

用到的工具:

  • Ollama:最简单的本地大模型管理工具,一键拉取、运行、管理模型
  • Qwen3.5:cloud:阿里云开源的轻量高性能大语言模型,对话效果强、适配本地部署,作为主力使用
  • Qwen3:0.6b:阿里云开源的超轻量大语言模型,占用内存极低(1GB 左右),适合 8GB 内存低配电脑,作为备选模型
  • OpenClaw:美观好用的本地 AI 可视化交互界面
  • 特点:免费、离线、隐私安全、低配置可运行

环境准备

  • 操作系统:Windows 10 / Windows 11
  • 内存:最低 8GB(推荐 16GB 更流畅)
  • 显卡:无需独立显卡,CPU 即可运行
  • 网络:仅在下载模型时需要,运行时可完全断网

详细安装步骤

1. 安装 Ollama

Ollama 是运行模型的核心,安装非常简单。

  1. 打开官网:https://ollama.com/
  2. 点击 Download 下载 Windows 版本
  3. 双击安装,一路下一步
  4. 安装完成后,Ollama 会自动在后台运行

验证是否安装成功:

打开 CMD 或 PowerShell,输入:

ollama --version

出现版本号即成功。

2. 使用 Ollama 下载并运行模型(Qwen3.5:cloud + Qwen3:0.6b)

我实际下载了两个模型,可根据自身电脑配置选择运行,优先推荐 Qwen3.5:cloud(效果更好),8GB 内存低配电脑推荐 Qwen3:0.6b(更流畅)。

2.1 下载并运行 Qwen3.5:cloud(主力模型)

继续在命令行输入以下命令,第一次运行会自动下载模型,下载完成后出现 >>> 即启动成功,可直接输入问题测试,适配低配电脑,运行流畅无压力。

ollama run qwen3.5:cloud

出现 >>> 表示模型已启动成功。你可以直接在这里输入问题测试:

你好,介绍一下自己

Ollama 运行界面

模型能正常回答,说明 Qwen3.5:cloud 部署成功。

2.2 下载并运行 Qwen3:0.6b(轻量备选模型)

若电脑内存较低(8GB 及以下),运行 Qwen3.5:cloud 卡顿,可下载 Qwen3:0.6b 超轻量模型,命令行输入:

ollama run qwen3:0.6b

出现 >>> 表示模型已启动成功。你可以直接在这里输入问题测试:

你好,介绍一下自己

Qwen3 运行界面

模型能正常回答,说明部署成功一半。

3. 安装 OpenClaw 可视化界面

OpenClaw 让你不用敲命令,直接像 ChatGPT 一样聊天。

  1. 打开 OpenClaw 发布页:https://github.com/sqzw-x/OpenClaw
  2. 找到最新版本下载 Windows 安装包
  3. 解压或安装后打开软件
  4. 连接 OpenClaw 与本地 Ollama

打开 OpenClaw 后:

  1. 右上角进入设置
  2. 模型选择:根据自身需求选择,主力推荐 qwen3.5:cloud,低配电脑选择 qwen3:0.6b
  3. Ollama 地址保持默认:http://localhost:11434
  4. 保存设置

回到主界面,即可开始聊天。

效果展示

OpenClaw 主界面

任务管理器内存占用

示例说明:

  • OpenClaw 连接成功界面:截图包含设置页面、模型选择(可分别展示 qwen3.5:cloud 和 qwen3:0.6b 选择界面)、地址配置
  • 模型启动速度:约 3~10 秒
  • 回答速度:流畅,可日常使用

常见问题与解决方法

  • 内存占用:Qwen3.5:cloud 约 2GB~4GB,Qwen3:0.6b 约 1GB~1.5GB
  • 模型启动速度:Qwen3.5:cloud 约 3~10 秒,Qwen3:0.6b 约 1~3 秒
  • 回答速度:均流畅可日常使用,Qwen3:0.6b 适配低配电脑,卡顿更少

1. 模型下载特别慢

解决方法:

  • 先暂停下载重新开始,进度不会变
  • 或等待半夜下载(避开网络高峰期)

2. OpenClaw 连接失败 / 连不上 127.0.0.1:11434

解决方法:

  • 确保 Ollama 正在后台运行(任务栏右下角查看 Ollama 图标)
  • 重启 Ollama:任务栏右键 Ollama → Restart
  • 检查地址是否为:http://localhost:11434(切勿多写/少写字符)

3. 电脑卡顿、内存不足

解决方法:

  • 关闭其他软件(尤其是浏览器、视频软件、后台下载工具),释放内存
  • 切换至超轻量模型:若运行 Qwen3.5:cloud 卡顿,可切换到 Qwen3:0.6b 模型,占用内存极低,适配 8GB 及以下低配电脑
ollama run qwen3:0.6b
  • 使用更小参数模型(若 qwen3.5:cloud 卡顿):尝试 qwen3.5:4b

4. OpenClaw 不显示模型(qwen3.5:cloud 或 qwen3:0.6b)

解决方法:

  • 重启 OpenClaw 软件,重新加载模型列表
  • 重新进入 OpenClaw 设置,根据自身需求选择 qwen3.5:cloud 或 qwen3:0.6b 模型并保存
  • 确认 Ollama 已成功拉取模型(命令行输入 ollama list 可查看已拉取模型)

项目总结

通过 Ollama + Qwen3.5:cloud(主力)+ Qwen3:0.6b(备选)+ OpenClaw,我们轻松实现了:

  • 本地离线运行大模型
  • 完全免费、无流量限制
  • 可视化界面,使用体验接近在线 AI
  • 数据不上传,隐私百分百安全

适合人群:

  • 想学习 AI 本地部署的新手
  • 注重隐私、不想数据上传云端
  • 学生、开发者、日常办公使用;8GB 内存低配电脑也能轻松适配(选择 Qwen3:0.6b 模型)

目录

  1. 前言
  2. 项目介绍
  3. 环境准备
  4. 详细安装步骤
  5. 1. 安装 Ollama
  6. 2. 使用 Ollama 下载并运行模型(Qwen3.5:cloud + Qwen3:0.6b)
  7. 2.1 下载并运行 Qwen3.5:cloud(主力模型)
  8. 2.2 下载并运行 Qwen3:0.6b(轻量备选模型)
  9. 3. 安装 OpenClaw 可视化界面
  10. 效果展示
  11. 常见问题与解决方法
  12. 1. 模型下载特别慢
  13. 2. OpenClaw 连接失败 / 连不上 127.0.0.1:11434
  14. 3. 电脑卡顿、内存不足
  15. 4. OpenClaw 不显示模型(qwen3.5:cloud 或 qwen3:0.6b)
  16. 项目总结
  • 免费图片AI生成工具免费生成了解详情
  • Magick API 一键接入全球大模型注册送1000万token查看
  • 免费图片视频在线生成30秒,将你的创意变成现实开始设计
  • X/Twitter免费视频下载器免登陆无限额度免费视频解析下载了解详情
  • 100+免费在线小游戏爽一把
极客日志微信公众号二维码

微信扫一扫,关注极客日志

微信公众号「极客日志V2」,在微信中扫描左侧二维码关注。展示文案:极客日志V2 zeeklog

更多推荐文章

查看全部
  • 前端错误处理最佳实践
  • OpenClaw 部署与飞书机器人接入实战指南
  • 技术架构组核心职责与近期规划
  • iOS 26 Liquid Glass TabBar 设计与实现
  • 35 岁 + 快消从业者职业危机:成因分析与破局之道
  • Meta 新一代开源大语言模型 Llama 3 详解
  • Ubuntu 下 AMD AI MAX 395+ 部署 Qwen 模型与 ROCm 加速实战
  • OpenClaw 本地 AI 智能体安装与配置指南
  • MySQL 数据类型详解:从数值到字符串的实战指南
  • Linux 系统 Docker 安装、配置与核心使用实战
  • Android 高效网络语音通话:WebRTC 与 Socket.IO 实战优化
  • GitNexus:AI 智能体代码库索引知识图谱
  • Git 核心原理与团队协作实战指南
  • GLM-4.7-Flash 实战:构建本地 Copilot 编程助手
  • Spring Boot Web 后端开发核心注解详解
  • iTerm2 Snazzy 主题安装与自定义色彩指南
  • Java 全栈开发工程师面试实战:从基础到项目落地
  • MySQL 索引底层数据结构及原理深入分析
  • GitHub 启用双因素身份验证(2FA)实战指南:使用 TOTP.app 配置动态验证码
  • 最大公约数 (GCD) 与最小公倍数 (LCM) 计算方法详解

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online