C# 中使用 OpenVINO™:轻松集成 AI 模型!

点击蓝字

关注我们,让开发变得更有趣

作者 算力魔方创始人/英特尔创新大使 刘力

OpenVINO™

C# 不仅在 PC 游戏开发、大型商业系统领域应用广泛,还成为开源测控、机器视觉与运动控制,以及 PC 数集与分析领域中的主流开发语言!在开源测控、机器视觉、数采与分析三大领域中,如何快速将AI模型集成到应用程序中,实现 AI 赋能和应用增值?最容易的方式是:在C#中,使用 OpenVINO™ 工具套件集成 AI 模型。

0364311aa0d6a2ead831cefce41234c9.png

OpenVINO™

什么是 OpenVINO™ 工具套件?

OpenVINO™ 工具套件是一个用于优化和部署人工智能(AI)模型,提升 AI 推理性能的开源工具集合,不仅支持以卷积神经网络(CNN)为核心组件的预测式 AI 模型(Predictive AI),还支持以 Transformer 为核心组件的生成式 AI 模型(Generative AI)。

OpenVINO™ 工具套件支持对基于 PyTorch、TensorFlow、PaddlePaddle 等主流深度学习框架训练好的模型进行优化,提升其在英特尔® CPU、独立显卡、集成显卡、NPU 等硬件上的 AI 推理计算性能。

OpenVINO™

什么是 OpenVINO™ C# API?

OpenVINO™ C# API 是一个开源的 OpenVINO™ 的 .Net wrapper(包装器)项目,它基于最新的 OpenVINO™ Runtime 库开发,通过调用官方的 OpenVINO™ C API ,允许开发者在 .NET 和 .NET Framework 环境中使用 C# 语言调用 AI 模型,并实现AI模型在英特尔® CPU、独立显卡、集成显卡、NPU 上的推理加速。

OpenVINO™ C# API的GitHub仓:https://github.com/guojin-yan/OpenVINO-CSharp-API

713a62a49ec82728abb71818d3830113.png

为了方便开发者使用,OpenVINO™ C# API 提供了 NuGet Package,可以通过 NuGet 管理工具直接进行安装。

OpenVINO™

搭建 OpenVINO™ C# API 开发环境

搭建 OpenVINO™ C# API 开发环境共分三步:

1. 安装 .NET 8.0

2. 在 VS Code 中配置 C# 开发环境

3. 使用 NuGet 安装 OpenVINO™ C# API 依赖项

本节依次介绍。

一、安装.NET 8.0:

请进入 .NET 官网下载地址:

https://dotnet.microsoft.com/zh-cn/download

下载 .NET 8.0 安装包。

dd1b8ba303d23d28ee33dc864935b15d.png

下载完毕后,以管理员方式运行安装包,并按默认方式完成安装。

587441944ca58ad21562107de83efdca.png

安装完毕后,请启动“命令提示符”,然后输入 “dotnet --info” 指令,验证安装是否成功:

1b286e5f01e67169309c36ce85fde2dd.png

二、在 VS Code 中配置 C# 开发环境:

VS Code(Visual Studio Code)是一款由微软开发的开源、免费、跨平台的轻量级代码编辑器;支持多种编程语言(如C、C++、C#、Java、Python、JavaScript等)的代码编辑,具备语法高亮、代码折叠、代码补全、代码重构等功能;广泛应用于各类软件开发领域。

[注意]:使用VS Studio的开发者,无需安装VS Code的插件,可略过该小节!

首先,请从:https://code.visualstudio.com/,下载并安装VS Code。

然后,启动 VS Code,在“Extensions:Marketplace”中搜索关键字:“C#”,依次安装 C# 和 C# Dev Kit 插件。

b97b9018a2fca77118f51f4fcf444db1.png

接着,启动“命令提示符”并输入 “dotnet new console -o hello_world -f net8.0”命令,创建一个名叫“hello_world”的C# console项目。

db6f29443f9cf9ed7a4409abfa5bd160.png

最后,启动VS Code,并用“File-->Open Folder...”打开hello_world文件夹,然后点击“Run Project...”按钮,若在Terminal中成功输出“Hello, World!”说明在VS Code配置C#开发环境成功!

cc024909d0831ecc0c7cacf44126298e.png

三、使用 NuGet 安装 OpenVINO™ C# API:

首先,启动“命令提示符”,用命令创建 YOLOv8 推理项目:

dotnet new console -o yolov8_async_csharp -f net8.0

然后,进入“yolov8_async_csharp”目录,使用NuGet安装OpenVINO™ C# API,命令如下:

dotnet add package OpenVINO.CSharp.API --version 2024.3.0.2
dotnet add package OpenVINO.runtime.win --version 2024.3.0.1
dotnet add package OpenVINO.CSharp.API.Extensions.OpenCvSharp --version 1.0.6.1

c22d1dddd35e53661529d6349c481e95.png

最后,使用 NuGet 安装 OpenCvSharp4:

dotnet add package OpenCvSharp4 --version 4.9.0.20240103
dotnet add package OpenCvSharp4.runtime.win --version 4.9.0.20240103

到此,OpenVINO™ C# API 开发环境搭建完毕!

OpenVINO™

用 C# 编写OpenVINO™ 推理程序

首先,请从:

https://github.com/openvino-book/openvino_handbook/tree/main/chapter_5/C%23/yolov8_async_csharp

下载范例程序Program.cs (覆盖yolov8_asysc_csharp 文件夹中的 Program.cs),测试视频 test_video.mp4 和 yolov8s IR 格式模型,放入 yolov8_asysc_csharp 文件夹中。然后,点击“Run project”或使用快捷键“Ctrl+F5”运行程序,结果如下视频所示:

OpenVINO™

总结

OpenVINO™ C# API 易学易用,可以方便将 AI 模型集成到C#应用程序中!

OpenVINO™

---------------------------------------

*OpenVINO and the OpenVINO logo are trademarks of Intel Corporation or its subsidiaries.

-----------------------------

 OpenVINO 中文社区 

微信号 : openvinodev

B站:OpenVINO中文社区

“开放、开源、共创”

致力于通过定期举办线上与线下的沙龙、动手实践及开发者交流大会等活动,促进人工智能开发者之间的交流学习。

○ 点击 “ 在看 ”,让更多人看见

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值