【OpenVINO】OpenVINO C# API 常用 API 详解与演示

  OpenVINO™ 工具套件可以加快深度学习视觉应用开发速度，帮助用户在从边缘到云的各种英特尔平台上，更加方便快捷的将 AI 模型部署到生产系统中。OpenVINO™ 2023.1 LTS 版本现已发布，可帮助你快速轻松地开发卓越的人工智能应用，并跨边缘和云端部署深度学习推理工作负载，无论你处于人工智能编程的什么阶段。
  C# 是由 C 和 C++ 衍生出来的一种安全的、稳定的、简单的、优雅的面向对象编程语言，它综合了 VB 简单的可视化操作和 C++ 的高运行效率，成为支持成为.NET 开发的首选语言。作为人工智能开发人员，如果你希望在 C# 端使用 OpenVINO™ ，OpenVINO C# API将是你的首选，并且制作了 NuGet 程序包，实现在 C# 端了一站式安装与使用 OpenVINO™ 。
  项目的首发网址：OpenVINO™ C# API 详解与演示 | 开发者实战。
  OpenVINO C# API在制作时参考了OpenVINO™ C++ API，因此对于之前使用过OpenVINO™ 的人十分友好。下面表格向我们展示了 C# 与 C++ API的对应关系

Class	C++ API	C# API	说明
Core class	ov::Core	Core	OpenVINO运行时核心实体类
Model class	ov::Model	Model	用户自定义模型类
CompiledModel class	ov::CompiledModel	CompiledModel	已编译的模型类
Output class	ov:: Output<ov::Node>	Output	节点输出的句柄类
Input class	ov:: Input<ov::Node>	Input	节点输入的句柄类
InferRequest class	ov::InferRequest	ov::InferRequest	以异步或同步方式运行推断请求的类
Tensor class	ov::Tensor	Tensor	张量
Shape class	ov::Shape	Shape	张量的形状类

  在本文中，将会根据模型部署的一般步骤，演示从模型加载到推理的方法函数使用方式，并于C++ API 做对比。

1 安装OpenVINO C# API

  OpenVINO C# API 支持 NuGet 程序包安装方式，这与在C++中安装过程相比，较为简单，并且程序包中包含了最新版的 OpenVINO™ 2023.1 发行版本的 Release，可以通 过 NuGet 安装后直接使用。

  如果使用Visual Studio 编译该项目，则可以通过 NuGet 程序包管理功能直接安装即可：

​

  如果通过dotnet命令方式安装，通过下面语句进行安装即可：

dotnet add package OpenVINO.CSharp.win

2 导入程序集

  OpenVINO C# API 程序集全部在CSharp命名空间下，因此若要使用 OpenVINO C# API，需要先引入命名空间：

using OpenVinoSharp;

3 初始化OpenVINO 运行时内核

  Core类代表一个OpenVINO运行时核心实体，后续的读取模型、加载模型等方法都需要通过 Core 类进行创建，在封装C# API 时，为了与 C++ API 对应，也对 Core 类进行了封装，并封装了与 C++ API 中对应的方法

在C#中的初始化方式：

Core core = new Core();

在C++中的初始化方式：

ov::Core core;

4 加载并获取模型信息

4.1 加载模型

  OpenVINO™ 2022.1版本更新之后，加载，下面是所使用的 API 方法：

API	作用
Core.read_model ()	将模型从硬盘载入内存，并返回Model对象。

在C#中加载模型的方式：

Model model = core.read_model(model_path);

在C++中的初始化方式：

std::shared_ptr<ov::Model> model = core.read_model(model_path);

4.2 获取模型信息

  通过 Core.read_model ()方法获得的 Model 对象和通过 Core.compile_model ()方法获得的 CompiledModel 对象，都支持直接访问属性获取输入与输出层信息。以Model对象获取模型信息为例，下面是所使用的 API 方法：

<

API	作用
Model.get_friendly_name()	获取模型的friendly name。
Model.input()	获取模型的输入层，并返回 Input对象。
Model.output()	获取模型的输出层，并返回 Output对象。