Whisper 模型本地化部署:全版本下载链接与离线环境搭建教程

Whisper 模型本地化部署指南

一、模型版本与下载

Whisper 提供多种规模版本,可通过以下官方渠道获取:

  1. GitHub 仓库
    https://github.com/openai/whisper
    包含最新代码、预训练权重和文档
    • tiny.en / tiny
    • base.en / base
    • small.en / small
    • medium.en / medium
    • large-v2 (最新大模型)

Hugging Face 模型库
所有版本下载路径:

https://huggingface.co/openai/whisper-{version}/tree/main 

替换 {version} 为具体型号:


二、离线环境搭建教程
准备工作
  1. 硬件要求
    • GPU 推荐:NVIDIA GTX 1080 或更高
    • 显存要求:
      • 小模型:≥ 2GB
      • 大模型:≥ 10GB

基础环境

# 安装 Python 3.8+ sudo apt install python3.8 python3-pip # 创建虚拟环境 python3 -m venv whisper-env source whisper-env/bin/activate 
离线依赖安装

离线安装

pip install --no-index --find-links=/path/to/wheels -r requirements.txt 

下载依赖包(在联网设备操作):

pip download -r requirements.txt --platform manylinux2014_x86_64 \ --only-binary=:all: --python-version 3.8 

将生成的 *.whl 文件复制到离线设备

模型部署
  1. 手动下载模型
    • 从 Hugging Face 下载 .pt 权重文件
    • 保存路径:~/.cache/whisper/

验证安装

import whisper model = whisper.load_model("base") result = model.transcribe("audio_sample.mp3") print(result["text"]) 

三、关键配置说明
  1. 音频处理
    • 必需组件:ffmpeg

内存优化

# 启用 GPU 加速 model = whisper.load_model("large", device="cuda") # 低内存模式 options = whisper.DecodingOptions(fp16=False, beam_size=3) 

离线安装:

# 下载静态编译版本 wget https://johnvansickle.com/ffmpeg/releases/ffmpeg-release-amd64-static.tar.xz tar xvf ffmpeg-release-amd64-static.tar.xz export PATH=$PATH:/path/to/ffmpeg 

四、常见问题解决
  1. 依赖缺失错误
    • 解决方案:手动下载缺失 .whl 文件补充

长音频处理

# 分段处理 result = model.transcribe("long_audio.wav", chunk_length=30) 

CUDA 不兼容

# 检查 CUDA 版本 nvcc --version # 安装匹配的 PyTorch 离线包 
提示:完整离线包(含依赖+模型)约需 15GB 存储空间,建议使用 rsync 进行设备间传输。

Read more

【薅羊毛教程】LLaMaFactory 不用本地跑!免费 GPU,一键微调大模型

【薅羊毛教程】LLaMaFactory 不用本地跑!免费 GPU,一键微调大模型

一、环境 之前介绍过本地部署LLaMaFactory微调平台(https://blog.ZEEKLOG.net/m0_73982863/article/details/159208213?spm=1001.2014.3001.5501),如果你还在为设备问题而烦恼,那就来薅羊毛吧(手动狗头)。 首先注册魔搭社区,绑定个人阿里云账号即可,详情见:https://www.modelscope.cn/my/mynotebook ;然后就可免费获得36小时GPU环境。 8核:CPU有8个核心,主要负责数据的调度和预处理;32GB:内存,数据从硬盘加载后会暂时存放这里;显存24G;(比我自己的老古董好多 T-T) Ubuntu 22.04:Linux操作系统; CUDA 12.8.1:英伟达的并行计算平台。12.8版本意味着它支持最新的RTX

用 C# 扩展 Dynamics 365 Copilot:自定义插件与场景

Dynamics 365 Copilot 作为基于 AI 的智能助手,为企业用户提供了自动化流程、智能分析和自然语言交互的能力,但通用功能往往无法满足特定行业或企业的定制化需求。本文将详细介绍如何通过 C# 编写自定义插件,扩展 Dynamics 365 Copilot 的能力,并结合实际业务场景实现定制化 AI 交互。 一、核心基础:Dynamics 365 Copilot 扩展架构 Dynamics 365 Copilot 的扩展主要依赖于 Power Platform 插件框架 和 Copilot Studio 的自定义连接器,核心技术栈包括: * C# (.NET Framework 4.8 或 .NET 6+):编写业务逻辑插件 * Dynamics 365 SDK:

【AIGC】AI工作流workflow实践:构建日报

【AIGC】AI工作流workflow实践:构建日报

workflow实践 * 引言 * 实现步骤分析 * 实践 * 创建 dify workflow 应用 * 创建工作流内部节点 * 1、设置输入字段 * 2、创建两个LLM节点 * 3、设置结束节点 * 运行工作流 * 结语 引言 工作流 workflow 是现在 LLM 很重要的一个概念,因为对于一个模型来说,非常复杂的问题很难一次性完美解决,而且可能需要很多别的辅助工具。而工作流就是将这些工具和模型组合起来,形成一个完整的解决方案。今天我们来做个工作流实践,帮助读者理解工作流。我们来构建一个帮助我们写日报的工作流。在帮助我们完成日报的填写的同时,我们需要它进行 AI 味的去除,免得出现别人一看就是 AI 写出来的文章的情况。 实现步骤分析 1. 我们需要一个可以构建工作流的平台,这边我们选择 dify 2. 我们需要模型根据我们提供的今天做的事情去自动生成日报 我们需要对刚才生成的文章进行 AI 味的去除 实践 创建

【AIGC】即梦omnihuaman-api调用实现

即梦数字人视频生成(Streamlit Demo) 基于 火山引擎即梦(Jimeng)CV API 的数字人视频生成示例项目。 支持 图片 + 音频驱动 的数字人视频生成流程,集成了主体检测、Mask 选择、Prompt 控制、视频生成与下载等完整功能,适合 内部测试 / 技术演示 / 二次开发。 一、功能概览 ✅ 核心功能 * 🔐 AK / SK 在线填写 * 支持火山引擎 Access Key / Secret Key 在页面中直接输入 * 无需写死在代码中,便于多账号切换 * api key申请地址:https://console.volcengine.com/iam/keymanage * 🖼 图片上传(人物图像) * 支持 JPG / PNG