跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客GitHub 精选镜像AI 生图工具UI配色美学隐私政策关于联系
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
Shell / BashAI算法

华为 ARM Linux 部署 Ollama 0.17.6 运行 Qwen3.5 模型测试

记录了在华为 ARM Linux 环境下手动部署 Ollama 0.17.6 的过程。解决了代理安装失败及缺少 zstd 依赖的问题,通过解压二进制文件完成安装。测试了 Qwen3.5 4B 和 0.8B 模型,发现默认开启思考模式会导致计算任务耗时较长,关闭后速度提升。模型能准确求解一元二次方程并进行中英文翻译,验证了本地小模型的推理能力。

疯疯癫癫发布于 2026/3/16更新于 2026/7/2752 浏览

1. 下载 ollama 压缩包

由于代理报错且未安装 Docker,选择手工下载压缩包。

aaa@kylin-pc:~$ wget -c https://bgithub.xyz/ollama/ollama/releases/download/v0.17.6/ollama-linux-arm64.tar.zst
已发出 Proxy 请求,正在等待回应... 200 OK
长度:1302036890 (1.2G)
正在保存至:'ollama-linux-arm64.tar.zst'

2. 解压缩 ollama 压缩包

解压时因缺少 zstd 头文件导致编译失败,从其他机器复制了 zstd 二进制文件并配置软链接。

aaa@kylin-pc:~/olm$ tar xf ../ollama-linux-arm64.tar.zst
tar (child): zstd:无法 exec: 没有那个文件或目录
...

# 下载并解压 zstd 源码
aaa@kylin-pc:~$ wget https://github.com/facebook/zstd/releases/download/v1.5.7/zstd-1.5.7.tar.gz
aaa@kylin-pc:~$ cd olm
aaa@kylin-pc:~/olm$ unzip ../zst.zip
inflating: libzstd.so
inflating: zstd

# 配置软链接
aaa@kylin-pc:~/olm$ sudo ln -s ./zstd /usr/bin/zstd

# 解压 ollama
aaa@kylin-pc:~/olm$ ./zstd -d ../ollama-linux-arm64.tar.zst -o ollama-linux-arm64.tar
aaa@kylin-pc:~/olm$ tar xf ollama-linux-arm64.tar
aaa@kylin-pc:~/olm/bin$ ./ollama --version
Warning: could not connect to a running Ollama instance
Warning: client version is 0.17.6

3. 运行小模型

直接运行 run 或 pull 报错,需先启动 serve 服务。

aaa@kylin-pc:~/olm/bin$ ./ollama serve
Couldn't find '/home/aaa/.ollama/id_ed25519'. Generating new private key.
time=2026-03-05T08:45:07.301+08:00 level=INFO source=routes.go:1664 msg="server config" ...
time=2026-03-05T08:45:07.302+08:00 level=INFO source=routes.go:1719 msg="Listening on 127.0.0.1:11434 (version 0.17.6)"

在另一个终端运行模型:

aaa@kylin-pc:~/olm/bin$ ./ollama run qwen3.5:4b
pulling manifest
pulling 81fb60c7daa8: 100% ▕█████████████████████████▏ 3.4 GB
verifying sha256 digest
writing manifest success

4. 测试 4b 小模型

默认开启思考模式,简单的一元二次方程求解耗时较长。模型会先翻译成英文思考再输出中文。

>>> 解方程 x^2 -x -6 =0
Thinking...
Here's a thinking process that leads to the suggested solution:
...
这是一个一元二次方程,可以通过**因式分解法**(十字相乘)来求解。
### 解方程过程:
原方程:$$x^2 - x - 6 = 0$$
...
最终答案:$$x_1 = 3, \\[quad] x_2 = -2$$

关闭思考模式后速度提升明显:

aaa@kylin-pc:~/olm/bin$ ./ollama run qwen3.5:4b --think=false
>>> 解方程 x^2 -x -20=0
我们要解的一元二次方程是:$$x^2 - x - 20 = 0$$
可以通过**因式分解法**或**求根公式法**来求解。
...
该方程的解为:$$x_1 = 5, \\[quad] x_2 = -4$$

5. 测试 0.8b 小模型

限定方法后输出更快。

aaa@kylin-pc:~/olm/bin$ ./ollama run qwen3.5:0.8b --think=false
>>> 用求根公式法解方程 x^2 -x -20=0
...
该方程的两个实数根分别为:$$x_1 = 5, \\[quad] x_2 = -4$$

6. 翻译测试

中英文翻译响应迅速。

>>> 将下文译成中文。
PostgreSQL is a powerful, open source object-relational database system...
PostgreSQL 是一个强大的开源对象关系数据库管理系统,拥有超过 35 年的活跃开发历程。
官方文档提供了丰富的信息,用于指导如何安装和部署 PostgreSQL。

目录

  1. 1. 下载 ollama 压缩包
  2. 2. 解压缩 ollama 压缩包
  3. 下载并解压 zstd 源码
  4. 配置软链接
  5. 解压 ollama
  6. 3. 运行小模型
  7. 4. 测试 4b 小模型
  8. 解方程过程:
  9. 5. 测试 0.8b 小模型
  10. 6. 翻译测试
  • 免费图片AI生成工具免费生成了解详情
  • Magick API 一键接入全球大模型注册送1000万token查看
  • 免费图片视频在线生成30秒,将你的创意变成现实开始设计
  • X/Twitter免费视频下载器免登陆无限额度免费视频解析下载了解详情
  • 100+免费在线小游戏爽一把
极客日志微信公众号二维码

微信扫一扫,关注极客日志

微信公众号「极客日志V2」,在微信中扫描左侧二维码关注。展示文案:极客日志V2 zeeklog

更多推荐文章

查看全部
  • 【Js逆向 python】Web JS 逆向全体系详细解释
  • 系统开发成本为何居高不下:低代码的工程化降本路径
  • 基于星辰 RPA 的小红书自动发文机器人搭建指南
  • Java Web 大文件分块上传与断点续传实现方案
  • 无人机路径规划算法详解:原理、场景与优化趋势
  • BeyondMimic 与 rl_sar:从视频到机器人跳舞的部署实践
  • Lada v0.10.1 本地 AI 视频去马赛克工具使用指南
  • 前端安全:核心漏洞防御与最佳实践
  • DuckDB C++ 集成:在嵌入式项目中实现高性能数据分析
  • 二叉树算法精讲:翻转、对称、最大与最小深度
  • PCL 点云处理算法与模块实战指南
  • Java SE 基础:文件系统操作详解
  • 基于 YOLO 与大模型的无人机河道环境检测系统
  • 基于 STM32 的智能家居环境监测系统设计
  • OpenClaw QQ 机器人接入完整指南
  • LeetCode 49. 字母异位词分组 Java 实现
  • FPGA Libero SoC 2024.2 安装与工程实战指南
  • 基于知识图谱的 GraphRAG 非结构化数据处理:LlamaIndex 与 Neo4j
  • 飞书自定义机器人 Webhook 接入与发送示例
  • Python 调用手机摄像头

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online