MMAudio推理

项目地址:

https://github.com/hkchengrex/MMAudio?tab=readme-ov-file

inference:

1、创建conda环境

python3.9的,pip安装torch以及相关的,进入mmaudio里面pip安装

2、下载:(注意:下载时候,用hf的镜像https://hf-mirror.com/,新加坡代理会快点)

根据mmaudio/utils/download_utils.py的地址,下载mmaudio_large_44k_v2、'v1-16、best_netG、v1-44、synchformer_state_dict四个pt文件, 放进mmaudio/eval_utils.py指定的位置;

还有clip和bigvgan(估计是声音的编码器),也要下载,GitHub里面没写,需要自己跑demo时候,根据报错的提示,下载open_clip_pytorch_model.bin和open_clip_config.json文件;bigvgan_generator.pt和config.json文件;放这些文件的地址,写进pretrained.py的cached_file(修改hf_hub_download函数应该也行的)和autoencoder.py的self.vocoder = self.vocoder = BigVGANv2.from_pretrained('path to/bigvgan_v2_44khz_128band_512x/',use_cuda_kernel=False)里面

跑demo:

这个推理出来的是,是一个纯音频文件,还需要手动音视频合并的

python demo.py --duration=5 --video path to/a.mp4 --prompt "xxxx." --output path to/

ffmpeg -i path to/a.mp4 -i path to/a.flac path to/VA_a.mp4

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值