跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书AI学习GitHub 精选镜像AI 生图工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
C++AI算法

Whisper.cpp 量化版本清单与 ggml 格式模型下载指南

Whisper.cpp 量化模型通过降低参数精度减小尺寸,支持 q4_0 至 q8_0 等多种级别。用户可从官方 GitHub Releases 页面下载 ggml 格式文件,如 ggml-model-whisper-base.en-q4_0.bin。量化后推理速度提升显著,内存占用减少,适用于嵌入式及通用场景。使用时需匹配版本号并仅从官方源获取以确保安全。

SparkGeek发布于 2026/3/21更新于 2026/9/1173 浏览

Whisper.cpp 量化模型下载指南

Whisper.cpp 是 OpenAI Whisper 语音识别模型的高效 C++ 实现,支持量化技术来减小模型尺寸。量化通过降低模型参数的精度(如从 32 位浮点数到 4 位整数)来减少存储和计算需求,同时保持合理的准确性。ggml 格式是一种轻量级模型格式,专为资源受限设备优化。

量化版本清单

Whisper.cpp 支持多种量化级别,每种对应不同的压缩率和精度权衡。以下是常见量化版本清单:

  • q4_0:4 位量化,极致压缩,模型尺寸最小,适合内存受限设备(如嵌入式系统)。精度损失较高。
  • q4_1:4 位量化,带优化参数,比 q4_0 略大但精度更好。
  • q5_0:5 位量化,平衡压缩和精度,推荐通用场景。
  • q5_1:5 位量化,带优化参数,精度更接近原始模型。
  • q8_0:8 位量化,压缩率较低,但精度损失最小,适合高准确性需求。

这些量化版本适用于不同规模的 Whisper 模型(例如 tiny、base、small、medium、large)。量化过程可表示为:$$ \text{原始模型尺寸} \times \frac{\text{量化位数}}{32} \approx \text{量化后尺寸} $$ 例如,Whisper large 原始模型约 2.9GB,使用 q4_0 量化后约 1.5GB。

ggml 格式模型下载

所有量化模型文件均以 ggml 格式提供,您可以从 Whisper.cpp 的官方 GitHub 仓库下载。

1. 访问 GitHub 仓库

打开浏览器,访问 Whisper.cpp GitHub 页面。这是唯一推荐来源,确保模型安全可靠。

2. 转到 Releases 页面

在仓库主页,点击顶部导航栏的 "Releases",或直接访问 Releases 页面。这里提供所有预编译模型文件。

3. 下载量化模型

在 Releases 页面,查找最新版本(如 v1.5.0)。模型文件命名规则为:ggml-model-whisper-<模型规模>-<语言>.q<量化类型>.bin。

完整清单包括:

  • ggml-model-whisper-base.en-q4_0.bin:英语基础模型,q4_0 量化。
  • ggml-model-whisper-large.q5_0.bin:多语言大型模型,q5_0 量化。

各规模模型建议:

  • tiny 模型:q4_0, q5_0 等
  • base 模型:q4_0, q5_1, q8_0 等
  • small 模型:q4_1, q5_0 等
  • medium 模型:q5_0, q8_0 等
  • large 模型:q4_0, q5_1 等(建议优先下载 q5_0 或 q5_1 以平衡性能)

代码示例

下载后,您可以使用 Whisper.cpp 命令行工具运行模型。确保先安装依赖(见 GitHub README)。示例命令:

./main -m models/ggml-model-whisper-base.en-q4_0.bin -f audio.wav

注意事项

  • 真实性:只从官方 GitHub 下载,避免第三方源以防恶意软件。
  • 兼容性:量化模型需与 Whisper.cpp 版本匹配;检查 Releases 说明。ggml 格式支持跨平台(Windows、Linux、macOS)。
  • 性能建议:q4_0 适合极致压缩,但精度较低;q5_0 或 q5_1 推荐一般使用。原始模型与量化对比:量化后推理速度提升 2 倍以上,内存占用减少 50%。
  • 更新信息:GitHub 仓库定期更新,如有新量化版本,请关注 Releases 页面。
  • 目录

    1. Whisper.cpp 量化模型下载指南
    2. 量化版本清单
    3. ggml 格式模型下载
    4. 1. 访问 GitHub 仓库
    5. 2. 转到 Releases 页面
    6. 3. 下载量化模型
    7. 代码示例
    8. 注意事项

    更多推荐文章

    查看全部
    • NSP 新范式:AI 世界模型构建与物理规律建模指南
    • 命令行工具 MCPHost:通过模型上下文协议与大模型交互
    • Llama Factory 模型评估:如何科学衡量微调后的模型性能
    • 基于 Java 的游戏道具交易平台管理系统设计与实现
    • AI Agent 架构:基础组成模块深度解析
    • 2020 年 CSP-S 提高组初赛阅读程序题解析(C++)
    • Flutter 三方库 whatsapp_bot_flutter 鸿蒙适配与实战指南
    • 基于 IsaacLab 从零训练机器人行走
    • 【VR音游】音符轨道系统开发实录与原理解析(OpenXR手势交互)
    • VS Code Copilot 完整使用教程
    • WorkBuddy 上手实录:从安装到微信接管个人 AI 工作台
    • 基于改进 YOLOv11n 的无人机红外目标检测算法
    • 医疗 NLP 实战:电子病历分析与智能问答开发
    • ClawdBot 语音翻译:Whisper tiny 带口音英语与粤语 WER 对比
    • MCP Server 实现 Excel 表格一键生成可视化图表 HTML 报告
    • 低代码 AI 平台:Coze 与 Dify 深度对比
    • Qt 前后端通信(QWebChannel Js / C++ 互操作):原理、示例、步骤解说
    • 基于 Q-Learning 的无人机三维动态避障路径规划(Matlab 实现)
    • 前端大数据导出优化:解决 Chrome 内存崩溃的实战方案
    • OpenCode 开源 AI 编程助手使用指南

    相关免费在线工具

    • 加密/解密文本

      使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

    • RSA密钥对生成器

      生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

    • Mermaid 预览与可视化编辑

      基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

    • 随机西班牙地址生成器

      随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

    • Gemini 图片去水印

      基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

    • Base64 字符串编码/解码

      将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online