AI部署开发指南:用vs2019编译OnnxRuntime-v1.16.2
要详细了解一个系统的部署,对其源码进行调试可能是最好的办法。Pytorch的部署几经改版,最大的特点依然是不稳定,或者使用libtorch这种稳定但优化力度不够的部署方案。而稳定且通用的方案,目前仍然是export to onnx的办法居多。onnxruntime在c++部署方面目前用得比较多,所以这里我们以微软最典型的onnxruntime部署为例,对其源码进行编译。编译后,就可以直接使用vs2019来进行源码级调试抓BUG了。
原创
2024-01-24 11:44:15 ·
2369 阅读 ·
0 评论