Whisper.cpp 默认编译仅支持 CPU，需显式启用 CUDA 选项或使用预编译版本才能利用 GPU 加速。如何判断当前版本是否支持 CUDA，提供了通过命令行参数或日志验证的方法，并对比了 CPU 与 CUDA 版本的性能差异。建议用户下载包含 cublas 的预编译包或自行编译时添加 -DWHISPER_CUBLAS=ON 标志以获得最佳性能。
官方发布地址：https://github.com/ggml-org/whisper.cpp/releases
不支持！默认编译只支持 CPU！
需要在编译时才行。
# 默认编译命令（Linux/Mac）
make
# 或者 CMake
cmake ..
cmake --build . --config Release
生成的可执行文件：
whisper-server.exe ← 只支持 CPUwhisper.exe ← 只支持 CPUmain.exe ← 只支持 CPU特点：
# Windows (CMake)
cmake .. -DWHISPER_CUBLAS=ON
cmake --build . --config Release
# Linux/Mac
make WHISPER_CUBLAS=1
生成的可执行文件：
whisper-server.exe ← 支持 GPU + CPUwhisper.exe ← 支持 GPU + CPUmain.exe ← 支持 GPU + CPU特点：
--no-gpu 参数）whisper-server.exe -m models/ggml-small.bin --use-gpu
whisper_init_state: kv self size = 14.06 MB
whisper_init_state: kv cross size = 14.06 MB
whisper_init_state: compute buffer (conv) = 8.96 MB
whisper_init_state: compute buffer (encode) = 73.47 MB
whisper_init_state: compute buffer (cross) = 4.78 MB
whisper_init_state: compute buffer (decode) = 96.48 MB
ggml_cuda_init: found 1 CUDA devices: Device 0: NVIDIA GeForce RTX 4060, compute capability 8.9, VMM: yes
ggml_cuda_init: GGML_CUDA_FORCE_MMQ: no
ggml_cuda_init: CUDA_USE_TENSOR_CORES: yes
ggml_cuda_init: found 1 CUDA devices: Device 0: NVIDIA GeForce RTX 4060
whisper_model_load: CUDA0 total size = 487.01 MB
关键标志：
ggml_cuda_init: found 1 CUDA deviceswhisper_model_load: CUDA0 total sizewhisper_init_with_params_no_state: use gpu = 1
whisper_backend_init_gpu: no GPU found
whisper_model_load: CPU total size = 487.01 MB
关键标志：
whisper_backend_init_gpu: no GPU foundwhisper_model_load: CPU total sizeCPU 版本：
whisper-server.exe 约 3-5 MBGPU 版本（带 CUDA）：
whisper-server.exe 约 15-25 MBcublas64_12.dll 约 100-150 MB ← CUDA 库文件cublasLt64_12.dll 约 50-80 MBcudart64_12.dll 约 0.5 MB如果 whisper-server.exe 只有几 MB，且没有 cublas.dll 文件，肯定是 CPU 版本！
# 尝试启用 GPU
whisper-server.exe -m models/ggml-small.bin --use-gpu
# 如果支持，会用 GPU
# 如果不支持，会报错或自动回退到 CPU
你会看到多个版本：
| 文件名 | 说明 | 支持 CUDA？ |
|---|---|---|
whisper-bin-x64.zip | CPU 版本 | ❌ 不支持 |
whisper-cublas-bin-x64.zip | GPU 版本 | ✅ 支持 CUDA |
whisper-clblast-bin-x64.zip | OpenCL 版本 | ⚠️ 支持 AMD/Intel GPU |
whisper-vulkan-bin-x64.zip | Vulkan 版本 | ⚠️ 支持通用 GPU |
命名规则：
根据之前的日志：
whisper_backend_init_gpu: no GPU found
结论：你用的是 CPU 版本！
你可能下载了 whisper-bin-x64.zip 而不是 whisper-cublas-bin-x64.zip
如果是自己编译的，可能用的是：
# 默认编译（没启用 CUDA）
cmake ..
cmake --build . --config Release
而不是：
# 启用 CUDA 的编译
cmake .. -DWHISPER_CUBLAS=ON
cmake --build . --config Release
步骤：
ggml_cuda_init: found 1 CUDA devices: Device 0: NVIDIA GeForce RTX 4060whisper-server.exe -m models/ggml-small.bin --use-gpu
D:\U3DProject\whisper.cpp-cublas\
├── whisper-server.exe ← GPU 版本
├── cublas64_12.dll ← CUDA 库
├── cublasLt64_12.dll
├── cudart64_12.dll
└── models\
whisper-cublas-bin-x64.zip
示例：whisper-cublas-bin-Win-x64-v1.5.5.zipREM 1. 进入 whisper.cpp 目录
cd D:\U3DProject\whisper.cpp-master
REM 2. 创建 build 目录
mkdir build
cd build
REM 3. 配置 CMake（启用 CUDA）
cmake .. -DWHISPER_CUBLAS=ON -DCMAKE_BUILD_TYPE=Release
REM 如果提示找不到 CUDA，指定路径：
cmake .. -DWHISPER_CUBLAS=ON ^
-DCMAKE_BUILD_TYPE=Release ^
-DCUDA_TOOLKIT_ROOT_DIR="C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.2"
REM 4. 编译（需要 10-20 分钟）
cmake --build . --config Release
REM 5. 生成的文件在：
REM build\bin\Release\whisper-server.exe
cd build\bin\Release
REM 检查文件大小
dir whisper-server.exe
REM 应该看到：
REM whisper-server.exe 约 15-25 MB（包含 CUDA 支持）
REM 测试运行
whisper-server.exe -m ..\..\..\models\ggml-small.bin --use-gpu
REM 应该看到：
REM ggml_cuda_init: found 1 CUDA devices:
REM Device 0: NVIDIA GeForce RTX 4060
| 版本 | 编译选项 | 识别时间 | RTF | 依赖 |
|---|---|---|---|---|
| CPU 版本 | 默认编译 | 30 秒 | 6.0 | 无 |
| CUDA 版本 | -DWHISPER_CUBLAS=ON | 0.4 秒 | 0.08 | CUDA Toolkit |
| OpenCL 版本 | -DWHISPER_CLBLAST=ON | 2 秒 | 0.4 | OpenCL |
| Vulkan 版本 | -DWHISPER_VULKAN=ON | 1.5 秒 | 0.3 | Vulkan SDK |
结论：CUDA 版本最快！
步骤：
whisper-cublas-bin-x64.zip（最新版）ggml_cuda_init: found 1 CUDA deviceswhisper_model_load: CUDA0 total size测试
cd D:\U3DProject\whisper.cpp-master
whisper-server.exe -m models/ggml-small.bin --use-gpu -t 4 -p 8 --port 8080
解压并替换
REM 备份旧的
ren D:\U3DProject\whisper.cpp-master\whisper-server.exe whisper-server-cpu.exe
REM 复制新的
copy whisper-cublas\whisper-server.exe D:\U3DProject\whisper.cpp-master\
copy whisper-cublas\*.dll D:\U3DProject\whisper.cpp-master\
确保 CUDA 已安装
nvidia-smi
nvcc --version
REM 优化线程数（从 16 改为 4）
whisper-server.exe -m models/ggml-small.bin -t 4 -p 8 --port 8080 --no-gpu
REM 或者用更小的模型
whisper-server.exe -m models/ggml-tiny.bin -t 4 -p 8 --port 8080 --no-gpu
预期提速：
| 问题 | 答案 |
|---|---|
| 默认编译支持 CUDA？ | ❌ 不支持，需要 -DWHISPER_CUBLAS=ON |
| 你的版本支持 CUDA？ | ❌ 不支持（日志显示 no GPU found） |
| 如何获取 CUDA 版本？ | 下载 whisper-cublas-bin-x64.zip |
| CUDA 版本速度？ | ✅ 5 秒音频 → 0.4 秒（快 75 倍） |
| 是否需要重新编译？ | ❌ 不需要，直接下载预编译版 |
微信公众号「极客日志」，在微信中扫描左侧二维码关注。展示文案：极客日志 zeeklog
使用加密算法（如AES、TripleDES、Rabbit或RC4）加密和解密文本明文。 在线工具，加密/解密文本在线工具，online
生成新的随机RSA私钥和公钥pem证书。 在线工具，RSA密钥对生成器在线工具，online
基于 Mermaid.js 实时预览流程图、时序图等图表，支持源码编辑与即时渲染。 在线工具，Mermaid 预览与可视化编辑在线工具，online
将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具，Base64 字符串编码/解码在线工具，online
将字符串、文件或图像转换为其 Base64 表示形式。 在线工具，Base64 文件转换器在线工具，online
将 Markdown（GFM）转为 HTML 片段，浏览器内 marked 解析；与 HTML 转 Markdown 互为补充。 在线工具，Markdown 转 HTML在线工具，online