5分钟搞定FunASR离线部署:Docker镜像打包+模型迁移一步到位(支持CentOS/Ubuntu)
最近在几个客户现场做语音识别项目,经常遇到一个头疼的问题:生产环境是严格的内网隔离,别说访问互联网了,连个外部的软件源都没有。要在这种环境下部署像FunASR这样的语音识别服务,传统的在线安装方式完全行不通。更麻烦的是,客户现场的服务器系统五花八门,有CentOS 7.9,有Ubuntu 20.04,还有各种定制化的Linux发行版,依赖库的版本差异能把人折腾得够呛。
经过几次踩坑,我摸索出了一套真正高效、通用的离线部署方案,核心思路就是**“一次打包,到处运行”**。这套方案不依赖网络,不纠结系统差异,用Docker镜像把运行环境和模型文件一起封装好,5分钟就能在目标机器上启动服务。无论你是需要在银行、政府、军工等保密单位部署,还是单纯想简化运维流程,这套方法都能帮你省下大量时间。
1. 为什么选择Docker镜像打包方案?
在离线环境中部署复杂应用,传统方式通常需要手动安装一堆依赖库、配置环境变量、编译源代码。这个过程不仅耗时,而且极易出错,特别是当目标机器的系统版本与开发环境不一致时,各种兼容性问题会接踵而至。
我最初尝试在CentOS 7.9上按照官方文档编译安装FunASR运行时,光是解决glibc版本和CUDA驱动的问题就花了大半天。后来切换到Ubuntu 22.04,虽然顺利装上了,但一想到要在每台离线机器上重复这个过程,就觉得这不是长久之计。
Docker镜像打包方案的优势在于:
- 环境一致性:将FunASR运行时、Python环境、系统依赖全部封装在一个镜像里,确保在任何支持Docker的Linux系统上运行行为完全一致。
- 简化部署:无需在目标机器上安装任何FunASR的依赖,只需要有Docker环境即可。
- 版本管理:每个镜像都是一个完整的版本快照,方便回滚和升级。
- 资源隔离:服务运行在独立的容器中,不会污染宿主机环境,也避免了与其他服务的冲突。
更重要的是,对于FunASR这种需要加载大型预训练模型的应用,我们可以把模型文件也打包进镜像,或者通过数据卷映射,实现模型与代码的分离管理。下面这张表格对比了不同部署方式的复杂度:
| 部署方式 | 环境准备时间 | 跨系统兼容性 | 运维复杂度 | 适合场景 |
|---|---|---|---|---|
| 源码编译安装 | 2-4小时 | 差,需解决各种依赖冲突 | 高,每台机器需单独配置 | 开发调试、少量服务器 |
| 系统包安装 | 30分钟-1小时 | 中等,依赖系统包管理器 | 中等,需配置软件源 | 有内网软件源的环境 |
| Docker镜像部署 | 5-10分钟 | 优秀,只要支持Docker即可 | 低,一键启动 | 离线环境、大规模部署、多系统环境 |
2. 准备工作:在可联网环境中构建基础镜像
虽然最终要在离线环境运行,但我们需要先在一个可以访问互联网的机器上准备好一切。这个机器可以是你的开发机,也可以是公司内网的某台服务器,关键是它能够正常拉取Docker镜像和下载模型文件。
2.1 选择合适的FunASR运行时镜像
FunASR官方提供了多个运行时镜像,我们需要根据实际需求选择。对于大多数离线部署场景,CPU版本已经足够,但如果需要处理大量实时音频流,GPU版本会有更好的性能。
# 查看可用的官方镜像
docker search funasr
# 拉取CPU版本的运行时镜像(以0.4.5版本为例)
docker pull registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-cpu-0.4.5
# 如果使用GPU,可以拉取对应的GPU版本
# docker pull registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-gpu-0.4.5
注意:镜像标签中的版本号可能会更新,建议先到FunASR的GitHub仓库查看最新版本。如果官方镜像的版本不满足需求,也可以基于官方镜像构建自定义版本。
2.2 下载并测试模型文件
FunASR支持多种语音识别模型,我们需要根据实际应用场景选择合适的模型。对于中文语音识别,speech_paraformer-large系列模型在准确率和速度上都有不错的表现。
# 创建一个目录用于存放模型文件
mkdir -p ~/funasr-offline/models
# 进入模型目录
cd ~/funasr-offline/models
# 这里以手动下载为例,实际可以通过脚本批量下载
# 下载VAD(语音活动检测)模型
wget https://modelscope.cn/api/v1/models/damo/speech_fsmn_vad_zh-cn-16k-common-onnx/repo?Revision=master
# 下载主识别模型
wget https://modelscope.cn/api/v1/models/damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-onnx/repo?Revision=master
# 下载标点恢复模型
wget https://modelscope.cn/api/v1/models/damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx/repo?Revision=master
# 下载语言模型(可选,提升识别准确率)
wget https://modelscope.cn/api/v1/models/damo/speech_ngram_lm_zh-cn-ai-wesp-fst/repo?Revision=master
下载完成后,建议先在可联网环境中测试一下整个流程是否正常。启动一个临时容器,挂载模型目录,确保服务能够正常启动:
# 启动测试容器
docker run -it --rm \
-p 10095:10095 \
-v ~/funasr-offline/models:/workspace/models \
registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-cpu-0.4.5 \
bash
# 在容器内启动服务
cd /workspace/FunASR/runtime/websocket/build/bin
./funasr-wss-server \
--download-model-dir /workspace/models \
--vad-dir /workspace/models/damo/speech_fsmn_vad_zh-cn-16k-common-onnx \
--model-dir /workspace/models/damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab
1万+



被折叠的 条评论
为什么被折叠?



