使用C++ API实现推理步骤:
- 创建Core对象,加载推理引擎Core,该引擎需要从当前路径加载plugins.xml文件;
Core ie;
- 读取IR文件 (.xml and .bin files),也可直接加载.onnx文件;
.xml
和.bin
文件放在同一目录下,但是代码中只加载.xml
即可;
CNNNetwork network = ie.ReadNetwork(input_model);
- 配置 input & output;
输入格式设置:
InputInfo::Ptr input_info = network.getInputsInfo().begin()->second;
std::string input_name = network.getInputsInfo().begin()->first;
//通过设置调整大小算法,将输入标记为可调整大小。
//在这种情况下,能够将任何形状的输入blob设置为一个推断请求。 在推断期间自动执行调整大小和布局转换 。
input_info->getPreProcess().setResizeAlgorithm(RESIZE_BILINEAR);
input_info->setLayout(Layout::NHWC);
input_info->setPrecision(Precisio