Whisper 模型本地化部署与离线环境搭建教程

Whisper 模型本地化部署指南

一、模型版本与下载

Whisper 提供多种规模版本，可通过以下官方渠道获取：

1. GitHub 仓库 https://github.com/openai/whisper 包含最新代码、预训练权重和文档
   • tiny.en / tiny
   • base.en / base
   • small.en / small
   • medium.en / medium
   • large-v2 (最新大模型)

Hugging Face 模型库 所有版本下载路径：

https://huggingface.co/openai/whisper-{version}/tree/main

替换 {version} 为具体型号。

---

二、离线环境搭建教程

准备工作

1. 硬件要求：
   • GPU 推荐：NVIDIA GTX 1080 或更高
   • 显存要求：
     • 小模型：≥ 2GB
     • 大模型：≥ 10GB

基础环境：

# 安装 Python 3.8+
sudo apt install python3.8 python3-pip
# 创建虚拟环境
python3 -m venv whisper-env
source whisper-env/bin/activate

离线依赖安装

离线安装：

pip install --no-index --find-links=/path/to/wheels -r requirements.txt

下载依赖包（在联网设备操作）：

pip download -r requirements.txt --platform manylinux2014_x86_64 \
--only-binary=:all: --python-version 3.8

将生成的 *.whl 文件复制到离线设备。

模型部署

1. 手动下载模型：
   • 从 Hugging Face 下载 .pt 权重文件
   • 保存路径：~/.cache/whisper/

验证安装：

import whisper
model = whisper.load_model("base")
result = model.transcribe("audio_sample.mp3")
print(result["text"])

---

三、关键配置说明

1. 音频处理：
   • 必需组件：ffmpeg

内存优化：

# 启用 GPU 加速
model = whisper.load_model("large", device="cuda")
# 低内存模式
options = whisper.DecodingOptions(fp16=False, beam_size=3)

离线安装 FFmpeg：

# 下载静态编译版本
wget https://johnvansickle.com/ffmpeg/releases/ffmpeg-release-amd64-static.tar.xz
tar xvf ffmpeg-release-amd64-static.tar.xz
export PATH=$PATH:/path/to/ffmpeg

---

四、常见问题解决

1. 依赖缺失错误：
   • 解决方案：手动下载缺失 .whl 文件补充

长音频处理：

# 分段处理
result = model.transcribe("long_audio.wav", chunk_length=30)

CUDA 不兼容：

# 检查 CUDA 版本
nvcc --version
# 安装匹配的 PyTorch 离线包

提示：完整离线包（含依赖 + 模型）约需 15GB 存储空间，建议使用 rsync 进行设备间传输。