ONNX Runtime 与 CUDA、cuDNN 的版本对应关系是深度学习模型部署中的关键点,确保版本兼容性可以避免运行时错误并优化性能。以下是详细的版本对应关系及注意事项:
1. ONNX Runtime 与 CUDA、cuDNN 的版本对应表
根据官方文档和实际使用经验,以下是一些常见的 ONNX Runtime 版本与 CUDA、cuDNN 的对应关系:
ONNX Runtime 版本 | CUDA 版本 | cuDNN 版本 | 备注 |
---|---|---|---|
1.17.x | 12.2 | 8.9.2.26 | 默认支持 CUDA 11.8,CUDA 12.2 需额外配置 |
1.15.x - 1.16.x | 11.8 | 8.2.4 (Linux) / 8.5.0.96 (Windows) | 支持 CUDA 11.6 - 11.8 |
1.13.x - 1.14.x | 11.6 | 8.2.4 (Linux) / 8.5.0.96 (Windows) | 支持 CUDA 11.4 - 11.6 |
1.11.x - 1.12.x | 11.4 | 8.2.4 (Linux) / 8.2.2.26 (Windows) | 支持 CUDA 11.0 - 11.4 |
1.9.x - 1.10.x | 11.4 | 8.2.4 (Linux) / 8.2.2.26 (Windows) | 支持 CUDA 11.0 - 11.4 |
1.7.x - 1.8.x |