CPU也能跑模型：OpenVINO模型部署入门教程

本文首发于公众号【DeepDriving】，欢迎关注。

0. 前言

OpenVINO（Open Visual Inference and Neural network Optimization）是英特尔推出的一个用于深度学习推理的开源工具套件，旨在帮助开发人员优化和部署深度学习模型，以在各种硬件平台上实现高性能的推理。OpenVINO的主要特点和功能：

1. 跨平台支持：OpenVINO支持多种硬件平台，包括英特尔的CPU、集成显卡、FPGA以及神经计算棒（Neural Compute Stick），这使得开发人员能够在各种设备上进行高效的深度学习推理。

2. 模型优化：OpenVINO提供了一系列工具和技术，可用于优化和转换深度学习模型，以便在目标硬件上实现更高的性能和效率，这包括模型压缩、量化、剪枝等技术。

3. 推理加速：OpenVINO利用英特尔的硬件加速器（如英特尔集成显卡、