faster-whisper 安装与配置完整指南30 秒跑通 Whisper 语音识别加速方案【免费下载链接】faster-whisperFaster Whisper transcription with CTranslate2项目地址: https://gitcode.com/GitHub_Trending/fa/faster-whisperfaster-whisper 是 OpenAI Whisper 的加速重实现版本底层使用 CTranslate2一个专门给 Transformer 模型提速的推理引擎。在相同准确率下它的转录速度最高可达原版 Whisper 的 4 倍且占用更少内存。适合两类人想批量处理音频转文字的开发者以及希望把语音识别服务跑在自己机器上的普通用户。30 秒跑通faster-whisper 快速上手先给你最简路径跑起来再往下看细节。首先确认你的 Python 版本不低于 3.9python3 --version接着一条命令完成安装pip install faster-whisper安装会自动带上全部依赖ctranslate2推理引擎、onnxruntime用于内置的静音检测模型、PyAV音频解码库它打包了 FFmpeg所以你不需要单独安装 FFmpeg。装完后你甚至可以先用纯 CPU 跑通第一版GPU 优化随时再补。环境与依赖清单GPU 和 Python 版本怎么选faster-whisper 对硬件没有硬性要求CPU 就能跑但 GPU 体验差距明显。以下是你需要核对的清单项目最低要求推荐配置说明Python3.93.9 ~ 3.11官方分类器明确支持到 3.11音频解码无需 FFmpeg—PyAV 已内置 FFmpeg 库少装一个系统级依赖GPU可选NVIDIA 显卡RTX 系列无 GPU 时devicecpu即可CUDA1212新版 ctranslate2 只支持 CUDA 12cuBLAS / cuDNNcuDNN 9cuDNN 9仅在 GPU 模式下需要版本取舍逻辑很简单默认按 CUDA 12 cuDNN 9 准备这是当前 ctranslate2 的原生支持组合不用折腾。如果你的机器锁在旧版本对照表如下CUDA 11 cuDNN 8 → 降级安装ctranslate23.24.0CUDA 12 cuDNN 8 → 降级安装ctranslate24.4.0降级命令示例pip install --force-reinstall ctranslate24.4.0GPU 模式下安装 NVIDIA 运行库有四种途径官方文档推荐的方式最稳妥、Docker 镜像nvidia/cuda:12.3.2-cudnn9-runtime-ubuntu22.04仓库docker/Dockerfile里就是基于它构建的、Linux 下直接pip install nvidia-cublas-cu12 nvidia-cudnn-cu129.*、以及社区打包好的 Windows/Linux 单文件库包。纯 pip 方式装完后记得先设置LD_LIBRARY_PATH再启动 Python否则库找不到下面坑位有现成命令。安装方法标准安装与开发安装标准安装绝大多数人的选择pip install faster-whisper适用于直接使用库做转录的场景。这是 PyPI 上的稳定发布版遇到问题时版本号好查、好回退。开发 / 进阶安装修改源码、跑测试如果你要改代码、提交建议或验证未发布的功能按贡献指南走 editable 模式git clone https://gitcode.com/GitHub_Trending/fa/faster-whisper cd faster-whisper pip install -e .[dev]-e表示可编辑安装你在仓库里改的 Python 代码即时生效无需重复安装。[dev]额外装好 black、flake8、isort、pytest 这些开发工具。装完后可以跑一遍测试确认环境健康pytest tests/另外如果你只需要把 Transformers 格式的 Whisper 模型包括自己微调的转换成 CTranslate2 格式再加装转换依赖pip install transformers[torch]4.23首次运行用 4 行代码验证安装成功仓库的docker/infer.py里就藏着一个最小示例它转录tests/data/jfk.flac这段几秒长的音频。把它改成自己的脚本即可from faster_whisper import WhisperModel model WhisperModel(tiny, devicecpu, compute_typeint8) segments, info model.transcribe(audio.mp3, beam_size5) for segment in segments: print(f[{segment.start:.2f} - {segment.end:.2f}] {segment.text})怎么判断装成功了两点信号✅ 模型首次加载时会自动从 Hugging Face Hub 下载 CTranslate2 格式的权重tiny只有几 MBlarge-v3则更大网络慢属正常下载完成不报错 ✅ 控制台按时间戳逐行打印出转录文本比如[0.00 - 4.71] And so my fellow Americans...。⚠️ 有个新手最容易忽略的坑segments是个生成器transcribe()调用返回时还没有开始转录。你必须迭代它for循环或list(segments)计算才会真正发生。所以如果你看到调用了但一直没输出不是坏了是你还没遍历。常见坑与排错问题原因解法GPU 启动报 cuBLAS / cuDNN 找不到NVIDIA 运行库没装或没进搜索路径按上文四种途径装库pip 方式需先export LD_LIBRARY_PATH指向 cublas 和 cudnn 的库目录再启动 Python加载 CUDA 模型报版本不兼容ctranslate2 版本与 CUDA/cuDNN 不匹配CUDA 11 环境降到ctranslate23.24.0CUDA 12 cuDNN 8 降到4.4.0参考 官方说明 的版本对照转录卡住没有输出segments是生成器未迭代不执行用for循环或list(segments)触发实际计算CPU 上速度慢、风扇狂转线程数不合理或精度太高运行时设OMP_NUM_THREADS4或匹配物理核心数CPU 场景改用compute_typeint8速度和内存都能明显改善首次加载模型极慢正在从 Hub 下载权重属正常行为下载一次后本地缓存也可直接pip install转换后的本地模型目录跳过网络进阶优化量化、批量与设备选择跑通之后这三招能让性能再上一个台阶1. INT8 量化——以极小的精度损失换速度和内存。GPU 上用int8_float16纯 CPU 用int8model WhisperModel(large-v3, devicecuda, compute_typeint8_float16)官方基准里large-v2模型在 GPU 上从 fp16 的 4525MB 显存降到 int8 的 2926MB。2. 批量转录——处理多个文件时BatchedInferencePipeline是WhisperModel.transcribe的直接替换吞吐提升巨大官方测试中batch_size8让 GPU 耗时从 63 秒降到 17 秒且默认开启 VAD 静音过滤from faster_whisper import WhisperModel, BatchedInferencePipeline model WhisperModel(turbo, devicecuda, compute_typefloat16) batched BatchedInferencePipeline(modelmodel) segments, _ batched.transcribe(audio.mp3, batch_size16)3. 按需选设备与模型——追求精度选large-v3追求速度选turbo或distil-large-v3显存吃紧就float16换int8_float16再不够就退回 CPU int8。更多可选参数语言、beam size、VAD 阈值、词级时间戳可以直接看 WhisperModel 源码 里的默认值。最后提醒一句对比不同实现的速度时务必对齐 beam size 和线程数CPU 下用OMP_NUM_THREADS固定否则谁更快的结论没有参考意义。【免费下载链接】faster-whisperFaster Whisper transcription with CTranslate2项目地址: https://gitcode.com/GitHub_Trending/fa/faster-whisper创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考