离线部署funasr

1.原始文档FunASR/runtime/docs/SDK_advanced_guide_offline_zh.md at main · alibaba-damo-academy/FunASR · GitHub

2.当前funasr-runtime-sdk-cpu-0.4.5在centos上运行不起来，在ubuntu系统上按照原始文档说明安装成功

3.将ubuntu系统上docker镜像打包以及模型copy迁移到离线的centos机器上

离线安装funasr
1.在已有的可以运行的docker打包
2.确保镜像已成功拉取并可在 docker images 列表中找到。
3.使用 docker save 命令将镜像保存为 tar 归档文件。例如，将 my_image:tag 保存为 my_image.tar
docker save registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-cpu-0.4.5 -o my_image.tar
4.将 tar 归档文件传输到无网络环境中的目标机器
5.在无网络环境中的目标机器上，使用 docker load 命令加载之前保存的 tar 归档文件并导入镜像。例如：
docker load -i my_image.tar

6.设置好下载的模型路径,把之前下载好的模型放进去
mkdir -p ./funasr-runtime-resources/models
第一次启动容器
sudo docker run -p 10095:10095 -it --privileged=true \
  -v $PWD/funasr-runtime-resources/models:/workspace/models \
  registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-cpu-0.4.5
  

离线调用(已有下载好的模型调用绝对路径：/workspace/models/damo)：
nohup bash run_server.sh --vad-dir /workspace/models/damo/speech_fsmn_vad_zh-cn-16k-common-onnx --model-dir /workspace/models/damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-onnx --punc-dir /workspace/models/damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx --lm-dir /workspace/models/damo/speech_ngram_lm_zh-cn-ai-wesp-fst --itn-dir /workspace/models/thuduj12/fst_itn_zh --hotword /workspace/models/hotwords.txt > log.txt 2>&1 &

 cd /workspace/FunASR/runtime/websocket/build/bin


./funasr-wss-server --download-model-dir /workspace/models --vad-dir /workspace/models/damo/speech_fsmn_vad_zh-cn-16k-common-onnx  --model-dir /workspace/models/damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-onnx  --punc-dir /workspace/models/damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx --lm-dir damo/speech_ngram_lm_zh-cn-ai-wesp-fst --itn-dir thuduj12/fst_itn_zh 

 

跟之前的脚本一样测试
python3 funasr_wss_client.py --host "127.0.0.1" --port 10095 --mode offline --audio_in "../audio/asr_example.wav"