qq_32320925的博客

假设你刚安装了新的CUDA版本，以CUDA-10.2为例，安装完成后⽤nvcc -V查看，输出的仍然是之前的⽼版本CUDA。原文链接：https://blog.youkuaiyun.com/LEAF1Q_Q/article/details/124576321。在文本中将exec /usr/lib/nvidia-cuda-toolkit/bin/nvcc改为。保存更改后，nvcc -V命令得到CUDA-10.2版本。终端查看系统默认调⽤的nvcc命令的位置。

ONNXRuntime是可以运行在多平台(Windows，Linux，Mac，Android，iOS)上的一款推理框架，它接受 ONNX 格式的模型输入，支持 GPU 和 CPU 的推理。OpenVINO是 Intel 家推出的针对 Intel 出品的 CPU 和 GPU 友好的一款推理框架，同时它可以对接不同训练框架如 TensorFlow，Pytorch，Caffe 等。ncnn 是腾讯开源的，MNN 是阿里开源的。ncnn 的优势是开源较早，有非常稳定的社区，开源影响力也较高。