CosyVoice2支持Nvidia 5090及vLLM加速

CosyVoice2支持Nvidia 5090及vLLM加速，以下是具体的支持方法及可能遇到的问题和解决思路：

• 支持Nvidia 5090：
  • 核心问题：torch 2.8.0以下版本不支持sm_120架构，而Nvidia 5090采用的是sm_120架构，所以需要安装torch 2.8.0及以上版本。
  • 解决方法：可以尝试从PyTorch官方网站下载适合Nvidia 5090和你系统环境的torch 2.8.0及以上版本进行安装。在安装过程中，可能会遇到依赖项不兼容等问题，需要根据具体的错误提示信息，通过更新或安装相应的依赖库来解决。例如，如果提示缺少某个CUDA版本的支持，可能需要安装对应的CUDA Toolkit。
• 支持vLLM加速：
  • 安装vllm：可以使用pip install vllm命令来安装vllm。但安装后可能会遇到与CosyVoice2或其他已安装库不兼容的情况。
  • 解决方法：如果遇到不兼容问题，可以先查看vllm的官方文档，了解其对环境和依赖库的要求，确保你的环境满足这些要求。同时，也可以查看CosyVoice2的官方文档或相关的开源社区，看是否有关于CosyVoice2与vllm集成的具体说明和解决方案。例如，可能需要调整vllm的一些配置参数，或者对CosyVoice2的代码进行一些修改来使其与vllm更好地兼容。

此外，还有一些其他的优化和注意事项：

• 确保驱动和CUDA版本匹配：要保证Nvidia显卡驱动和CUDA Toolkit的版本相互匹配，并且与torch和vllm都兼容。可以参考Nvidia官方文档来选择合适的驱动和CUDA版本进行安装。
• 模型加载和推理设置：在使用CosyVo