Faster-Whisper让 OpenAI Whisper 转录提速 4 倍、内存减半【免费下载链接】faster-whisperFaster Whisper transcription with CTranslate2项目地址: https://gitcode.com/GitHub_Trending/fa/faster-whisperFaster-Whisper 基于 CTranslate2 重新实现了 OpenAI 的语音转录模型 Whisper精度不变比原版最快提速 4 倍、内存占用减半。批量处理播客、做实时会议纪要它都接得住。为什么选它看三组实测数字速度实打实large-v2 模型在 GPU 上转录 13 分钟音频openai/whisper 要 2 分 23 秒它只花 1 分 03 秒换成批处理推理再压到 17 秒相当于原版的 8 倍以上。内存直接减半GPU 开 INT8 量化显存从 4525MB 降到 2926MBCPU 上跑 small 模型加 INT8内存只用 1477MB。精度没有掉distil-large-v3 模型上它的 WER词错误率13.527比 transformers 的 14.801 还低跑得快的同时识别得更准。模型设备耗时13 分钟音频内存large-v2 · openai/whisperFP16GPU2 分 23 秒4708MBlarge-v2 · faster-whisperFP16GPU1 分 03 秒4525MBlarge-v2 · faster-whisperINT8GPU59 秒2926MBsmall · faster-whisperINT8batch_size8CPU51 秒3608MB以上为同卡RTX 3070 Ti/同 CPUi7-12700K8 线程下的官方基准起跑线一致。5分钟跑起来一行命令安装加最小示例一行命令装好。它和原版最大的省事之处不用单独装 FFmpeg音频解码由自带的 PyAV 库完成装完就能直接跑。pip install faster-whisper最小示例8 行GPU 版from faster_whisper import WhisperModel model WhisperModel(large-v3, devicecuda, compute_typefloat16) segments, info model.transcribe(audio.mp3, beam_size5) print(f检测到语言 {info.language}概率 {info.language_probability:.2f}) for segment in segments: print(f[{segment.start:.2f}s - {segment.end:.2f}s] {segment.text})只有 CPU 的机器把参数改成devicecpu, compute_typeint8即可。注意segments是个生成器转录真正开始执行是在你用for循环遍历它的时候。核心能力拆解按使用场景看它怎么用做批量音频转录时它怎么帮你它提供BatchedInferencePipeline是WhisperModel.transcribe的直接替代品多传一个batch_size参数即可。内部把多个音频片段打包并行喂给 GPUlarge-v2 上 13 分钟音频从 1 分 03 秒干到 17 秒。音频越长、文件越多收益越大过夜跑几小时音频的活儿必用。做字幕和词级时间戳时它怎么帮你transcribe传word_timestampsTrue每个 segment 里就有words列表每个词带独立的开始和结束时间实现在 faster_whisper/transcribe.py。做字幕烧录、逐词高亮、点击跳转都能直接用不用再上额外的对齐工具。做长音频和会议转录时它怎么帮你开vad_filterTrue它内置的 Silero VAD 会先把没说话的部分裁掉再送模型检测逻辑见 faster_whisper/vad.py。默认只裁超过 2 秒的静音保守安全杂音多就把vad_parameters里的min_silence_duration_ms调小让它更激进。会议录音、访谈播客这种废话时间多的素材能省掉一大截无效计算。用自己微调的模型时它怎么帮你ct2-transformers-converter一条命令就能把原版 Whisper 或你微调过的权重转成 CTranslate2 格式权重可存 FP16 或 INT8之后WhisperModel(whisper-large-v3-ct2)直接从本地目录加载。如果你调过法律、医疗这类垂直领域的模型代码一行不用改换个模型目录就能用。⚙️ 进阶调优两个显著提升效果的参数from faster_whisper import WhisperModel, BatchedInferencePipeline model WhisperModel(large-v3, devicecuda, compute_typefloat16) pipeline BatchedInferencePipeline(model) segments, _ pipeline.transcribe(audio.mp3, batch_size16)batch_size往显存允许的极限推本质是 GPU 并行同时跑的分片越多显卡利用率越高基准里 16 能把 13 分钟音频压到 1617 秒。compute_type换成int8_float168 位量化让显存占用近乎减半4525MB → 2926MB且基准里转录精度几乎不变显存不够的卡这是第一优先要动的开关。周边生态已经帮你铺好的路WhisperX结合 wav2vec2 对齐提供说话人分离和更精确的词级时间戳whisper-ctranslate2命令行客户端兼容原版 openai/whisper 的命令行用法Whisper-Streaming让离线 Whisper 跑实时流式模式延迟随语音复杂度自适应Open-Lyrics转录音频并用 GPT 翻译润色成 .lrc 歌词文件speachesOpenAI 兼容的 ASR 服务器直接支持 OpenAI SDK/CLI 和流式调用场景化建议按你的需求选配置音频量大、要长时跑GPU compute_typeint8_float16BatchedInferencePipelinebatch_size1613 分钟音频 16 秒、显存还不紧张是吞吐上限最高的组合。内存紧张或要低延迟CPU devicecpu, compute_typeint8 small 模型 vad_filterTrue1477MB 内存、13 分钟音频约 1 分 42 秒要接近实时再叠加 Whisper-Streaming 做流式处理。下次转写那段音频的时候先拿它试一把以这个速度转录值得成为你流水线里的固定一步。【免费下载链接】faster-whisperFaster Whisper transcription with CTranslate2项目地址: https://gitcode.com/GitHub_Trending/fa/faster-whisper创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考