点击蓝字
关注我们,让开发变得更有趣
作者 算力魔方创始人/英特尔创新大使 刘力
OpenVINO™
C# 不仅在 PC 游戏开发、大型商业系统领域应用广泛,还成为开源测控、机器视觉与运动控制,以及 PC 数集与分析领域中的主流开发语言!在开源测控、机器视觉、数采与分析三大领域中,如何快速将AI模型集成到应用程序中,实现 AI 赋能和应用增值?最容易的方式是:在C#中,使用 OpenVINO™ 工具套件集成 AI 模型。
OpenVINO™
什么是 OpenVINO™ 工具套件?
OpenVINO™ 工具套件是一个用于优化和部署人工智能(AI)模型,提升 AI 推理性能的开源工具集合,不仅支持以卷积神经网络(CNN)为核心组件的预测式 AI 模型(Predictive AI),还支持以 Transformer 为核心组件的生成式 AI 模型(Generative AI)。
OpenVINO™ 工具套件支持对基于 PyTorch、TensorFlow、PaddlePaddle 等主流深度学习框架训练好的模型进行优化,提升其在英特尔® CPU、独立显卡、集成显卡、NPU 等硬件上的 AI 推理计算性能。
OpenVINO™
什么是 OpenVINO™ C# API?
OpenVINO™ C# API 是一个开源的 OpenVINO™ 的 .Net wrapper(包装器)项目,它基于最新的 OpenVINO™ Runtime 库开发,通过调用官方的 OpenVINO™ C API ,允许开发者在 .NET 和 .NET Framework 环境中使用 C# 语言调用 AI 模型,并实现AI模型在英特尔® CPU、独立显卡、集成显卡、NPU 上的推理加速。
OpenVINO™ C# API的GitHub仓:https://github.com/guojin-yan/OpenVINO-CSharp-API
为了方便开发者使用,OpenVINO™ C# API 提供了 NuGet Package,可以通过 NuGet 管理工具直接进行安装。
OpenVINO™
搭建 OpenVINO™ C# API 开发环境
搭建 OpenVINO™ C# API 开发环境共分三步:
1. 安装 .NET 8.0
2. 在 VS Code 中配置 C# 开发环境
3. 使用 NuGet 安装 OpenVINO™ C# API 依赖项
本节依次介绍。
一、安装.NET 8.0:
请进入 .NET 官网下载地址:
https://dotnet.microsoft.com/zh-cn/download
下载 .NET 8.0 安装包。
下载完毕后,以管理员方式运行安装包,并按默认方式完成安装。
安装完毕后,请启动“命令提示符”,然后输入 “dotnet --info” 指令,验证安装是否成功:
二、在 VS Code 中配置 C# 开发环境:
VS Code(Visual Studio Code)是一款由微软开发的开源、免费、跨平台的轻量级代码编辑器;支持多种编程语言(如C、C++、C#、Java、Python、JavaScript等)的代码编辑,具备语法高亮、代码折叠、代码补全、代码重构等功能;广泛应用于各类软件开发领域。
[注意]:使用VS Studio的开发者,无需安装VS Code的插件,可略过该小节!
首先,请从:https://code.visualstudio.com/,下载并安装VS Code。
然后,启动 VS Code,在“Extensions:Marketplace”中搜索关键字:“C#”,依次安装 C# 和 C# Dev Kit 插件。
接着,启动“命令提示符”并输入 “dotnet new console -o hello_world -f net8.0”命令,创建一个名叫“hello_world”的C# console项目。
最后,启动VS Code,并用“File-->Open Folder...”打开hello_world文件夹,然后点击“Run Project...”按钮,若在Terminal中成功输出“Hello, World!”说明在VS Code配置C#开发环境成功!
三、使用 NuGet 安装 OpenVINO™ C# API:
首先,启动“命令提示符”,用命令创建 YOLOv8 推理项目:
dotnet new console -o yolov8_async_csharp -f net8.0
然后,进入“yolov8_async_csharp”目录,使用NuGet安装OpenVINO™ C# API,命令如下:
dotnet add package OpenVINO.CSharp.API --version 2024.3.0.2
dotnet add package OpenVINO.runtime.win --version 2024.3.0.1
dotnet add package OpenVINO.CSharp.API.Extensions.OpenCvSharp --version 1.0.6.1
最后,使用 NuGet 安装 OpenCvSharp4:
dotnet add package OpenCvSharp4 --version 4.9.0.20240103
dotnet add package OpenCvSharp4.runtime.win --version 4.9.0.20240103
到此,OpenVINO™ C# API 开发环境搭建完毕!
OpenVINO™
用 C# 编写OpenVINO™ 推理程序
首先,请从:
https://github.com/openvino-book/openvino_handbook/tree/main/chapter_5/C%23/yolov8_async_csharp
下载范例程序Program.cs (覆盖yolov8_asysc_csharp 文件夹中的 Program.cs),测试视频 test_video.mp4 和 yolov8s IR 格式模型,放入 yolov8_asysc_csharp 文件夹中。然后,点击“Run project”或使用快捷键“Ctrl+F5”运行程序,结果如下视频所示:
OpenVINO™
总结
OpenVINO™ C# API 易学易用,可以方便将 AI 模型集成到C#应用程序中!
OpenVINO™
---------------------------------------
*OpenVINO and the OpenVINO logo are trademarks of Intel Corporation or its subsidiaries.
-----------------------------
OpenVINO 中文社区
微信号 : openvinodev
B站:OpenVINO中文社区
“开放、开源、共创”
致力于通过定期举办线上与线下的沙龙、动手实践及开发者交流大会等活动,促进人工智能开发者之间的交流学习。
○ 点击 “ 在看 ”,让更多人看见