FunASR服务器部署(CPU+GPU)

自行下载funasr-cpu/gpu和asrmodel-deploy-cpu/gpu压缩包,官方都有

cpu版

运行:
cd /home/user/data/AIModels/FunASR_docker/deploy_resources

sudo docker load -i funasr-runtime-sdk-cpu-0.4.4_w_models_v0.2.1.tar

cd asrmodel-deploy-cpu

sudo bash docker_start.sh

改名:sudo docker rename <容器ID> funasr-cpu

查信息:sudo docker inspect funasr-cpu

工作区:sudo docker exec -it funasr-cpu /bin/bash

挂载点对应目录:cd /workspace

单条推理:
cd /workspace/funasr_samples/python
bash funasr_wss.sh

批量推理:
音频文件放到/workspace/funasr_samples/audio/acc1中,可自定义
cd /workspace/funasr_samples/python
bash multi_funasr_wss.sh

gpu版

cd /home/user/data/AIModels/FunASR_docker/deploy_resources

sudo docker load -i funasr-runtime-sdk-gpu-0.1.1_w_models_v0.1.1.tar

cd asrmodel-deploy-gpu
sudo bash docker_start.sh

改名:sudo docker rename <容器ID> funasr-gpu

### FunASR 模型 GPU 部署教程 #### 准备工作 为了在GPU上成功部署FunASR模型,需先完成一系列准备工作。这包括但不限于安装必要的依赖库以及配置相应的开发环境。对于依赖项的管理,推荐通过`pip`工具来简化操作流程[^4]。 #### 安装 ModelScope 和其他必要组件 确保已安装最新版本的ModelScope SDK以及其他可能需要用到的支持包。具体命令如下所示: ```bash pip install -U modelscope ``` 此步骤能够帮助获取最新的API接口定义和其他辅助函数支持,从而更好地适配后续的操作需求。 #### 获取并准备 Docker 映像 针对希望利用Docker容器化技术来进行快速部署的情况,官方提供了专门定制化的映像文件供用户下载使用。按照指引,在本地机器上拉取指定标签下的映像,并启动一个新的实例以便进一步设置[^2]。 ```bash docker pull registry.cn-hangzhou.aliyuncs.com/modelscope/funasr-gpu:latest docker run --gpus all -itd \ -v /path/to/local/dir:/workspace/models \ --name funasr_container \ registry.cn-hangzhou.aliyuncs.com/modelscope/funasr-gpu:latest ``` 这里特别需要注意的是,当涉及到Windows操作系统时,挂载路径应指向实际存储位置,例如 `D:\FunASR\model` 对应于 `/workspace/models` 的映射关系已经建立好,方便之后访问所需资源[^3]。 #### 加载预训练模型与执行推理任务 一旦上述条件均已满足,则可以着手加载由阿里云团队预先训练好的语音识别模型,并尝试对其进行简单的测试验证其有效性。下面给出了一段Python脚本作为示范用途,展示了如何创建Pipeline对象并通过它处理输入音频数据得到最终的结果输出[^1]。 ```python from modelscope.pipelines import pipeline from modelscope.utils.constant import Tasks inference_pipeline = pipeline( task=Tasks.auto_speech_recognition, model='damo/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-pytorch', ) rec_result = inference_pipeline(audio_in='音频文件地址') print(rec_result) ``` 这段代码片段不仅实现了基本的功能调用逻辑,同时也体现了高度模块化的编程风格,使得整个过程更加清晰易懂。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

之群害马

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值