跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客GitHub 精选镜像AI 生图工具UI配色美学隐私政策关于联系
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
Shell / BashAI算法

Android 设备使用 Termux 安装 llama.cpp 并启动 WebUI

介绍如何在 Android 设备的 Termux 环境中运行 llama.cpp。步骤包括通过 apt 安装 llama-cpp 包,下载量化后的 Qwen3.5-GGUF 模型,使用 llama-cli 进行命令行交互测试,最后启动 llama-server 提供本地 WebUI 服务供浏览器访问推理。

蓝绿部署发布于 2026/4/5更新于 2026/7/1864 浏览

在 Android 设备上利用 Termux 安装 llama.cpp 并启动 WebUI

llama.cpp 没有发布官方 aarch64 的二进制,需要自己编译,好在 Termux 已经有编译好的包可用。

1. 安装 llama-cpp 软件

在 Termux 中执行以下命令安装:

apt update
apt install llama-cpp

如果找不到这个包,请先执行 apt update 更新目录。为简单起见,先不安装 llama-cpp-backend-vulkan,用 CPU 来执行 llama.cpp。

2. 下载模型

下载 Qwen3.5-0.8B-UD-Q4_K_XL.gguf 模型文件:

mkdir model
cd model
curl -LO https://hf-mirror.com/unsloth/Qwen3.5-0.8B-GGUF/resolve/main/Qwen3.5-0.8B-UD-Q4_K_XL.gguf

该模型是 Q4 量化的,比原版减少了一半空间,而能力差不多。

3. 命令行交互测试

使用 llama-cli 加载模型并进行对话:

llama-cli -m Qwen3.5-0.8B-UD-Q4_K_XL.gguf --ctx-size 16384 -cnv

加载成功后,可以输入问题进行交互。由于模型较小,智能比较弱,回答可能不准确。

退出对话可使用 /exit 或 Ctrl+C。

4. 启动 WebUI 服务

利用 llama-server 内置的 Web UI 功能:

llama-server -m ./Qwen3.5-0.8B-UD-Q4_K_XL.gguf --jinja -c 0 --host 127.0.0.1 --port 8033

系统检测到 CPU 有 8 个线程,用了 7 个。服务端输出参数后等待连接。

在浏览器中输入 http://127.0.0.1:8033 即可访问。输出速度比命令行慢一些,大约 3t/s。

服务端日志显示请求处理过程及性能指标,如 prompt eval time 和 eval time。

目录

  1. 在 Android 设备上利用 Termux 安装 llama.cpp 并启动 WebUI
  2. 1. 安装 llama-cpp 软件
  3. 2. 下载模型
  4. 3. 命令行交互测试
  5. 4. 启动 WebUI 服务
  • 免费图片AI生成工具免费生成了解详情
  • Magick API 一键接入全球大模型注册送1000万token查看
  • 免费图片视频在线生成30秒,将你的创意变成现实开始设计
  • X/Twitter免费视频下载器免登陆无限额度免费视频解析下载了解详情
  • 100+免费在线小游戏爽一把
极客日志微信公众号二维码

微信扫一扫,关注极客日志

微信公众号「极客日志V2」,在微信中扫描左侧二维码关注。展示文案:极客日志V2 zeeklog

更多推荐文章

查看全部
  • AI 技术:8 个实用 AI 绘画与生成工具推荐
  • 数据库迁移 TCO 全景账本:MySQL 替代中的隐性成本与工程化工具链实测
  • NestJS 接口响应 Message 编写规范与 API 提示标准化
  • Mycat 实践指南:一致性 Hash 分片下的水平分表详解
  • VR + 具身智能 + 人形机器人:通往现实世界的智能接口
  • Android 开发春招准备指南:面试题汇总与复习策略
  • OpenClaw 多飞书机器人接入与多 Agent 团队协作实战
  • 使用 Gitee、PicGo 和 Typora 搭建免费个人笔记工具
  • 阿里通义千问 Qwen3-Coder:智能代码生成与代理式编程
  • Python 安全有效地处理配置的最佳实践
  • 前端权限控制设计:避免硬编码权限判断
  • Python 网址匹配正则表达式实战
  • Python 基础:输入输出与格式化技巧
  • 腾讯云智能客服 Java 集成实战与生产环境优化
  • OpenClaw 本地 AI 智能体:从入门到实战部署指南
  • Dify MCP Server:将工作流发布为第三方可调用服务
  • Vue Vant van-uploader 文件上传接口封装方法
  • AI 绘画 Face Fusion 人脸融合技巧与云端部署
  • Linux 下 Git 入门:高效管理代码库实战指南
  • Java 编译报错 No interface expected here 的排查与修复

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online