onnxruntime C#部署环境安装

已于 2024-02-27 14:44:06 修改
阅读量2.2k 收藏 33
点赞数 23
文章标签： c# 机器学习 深度学习
于 2024-02-27 14:27:41 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/q852474220/article/details/136313181
版权

CUDA、cudnn和OnnxRuntime版本对应

NVIDIA - CUDA | onnxruntime

官网查看版本，需要一一对应，否则无法正常运行；

CUDA更新最快，OnnxRuntime最慢，需要根据OnnxRuntime版本下载安装CUDA和cudnn

CUDA:

cuda_11.8.0_522.06_windows

CUDA Toolkit Archive | NVIDIA Developer

  • Step1：双击cuda_11.8.0_522.06_windows.exe运行安装；
  • Step2：同意并继续；

软件许可

  • Step3：自定义下一步直到安装完成；

安装选项

cudnn:

cudnn-windows-x86_64-8.5.0.96_cuda11-archive

cuDNN Archive | NVIDIA Developer

  • Step1：解压cudnn-windows-x86_64-8.5.0.96_cuda11-archive.zip；
  • Step2：cudnn-windows-x86_64-8.5.0.96_cuda11-archive\bin中所有文件拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin；
  • Step3：cudnn-windows-x86_64-8.5.0.96_cuda11-archive\lib中所有文件拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\lib\x64；
  • 以上路径根据你选择的版本和路径来，一般路径都是默认路径

zlibwapi.dll:

http://www.winimage.com/zLibDll/zlib123dllx64.zip

  • Step1：解压zlib123dllx64.zip；
  • Step2：zlib123dllx64\dll_x64中zlibwapi.dll拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin；
  • 无zlibwapi.dll在推理时会出现闪退

OnnxRuntime(NuGet包)：

Microsoft.ML.OnnxRuntime.Gpu 1.6.3

参考C#onnxruntime模型部署时，无法在 DLL“onnxruntime”中找到名为“OrtGetApiBase”的入口点的解决方法-优快云博客

c#语言利用GPU进行加速计算
zhangzhechun的专栏
03-31 3676
在上面的代码中，我们首先初始化了一个CUDA上下文，并加载了一个名为MyKernel的CUDA核函数。接着，在Calculate方法中，我们将输入数据和输出数据复制到设备内存中，并设置CUDA核函数的参数。最后，我们将结果从设备内存复制到主机内存中，并释放设备内存。在上面的示例代码中，我们使用了ManagedCuda库来与CUDA进行交互。这个库提供了C#封装的CUDA API，让我们能够在C#中方便地使用CUDA进行加速计算。首先，你需要在你的计算机上安装CUDA并配置好CUDA的开发环境。
C++ OnnxRuntime部署yolov8模型
07-20
1. **安装依赖**：确保你的开发环境中已经安装了ONNXRuntime库，可以通过包管理器（如apt-get或conda）或者从源代码编译安装。 2. **加载模型**：使用ONNXRuntime的API加载`.onnx`模型文件。`main.cpp`中应该包含...
C# Onnx 使用onnxruntime部署夜间雾霾图像的可见度增强 源码
02-21
C# Onnx 使用onnxruntime部署夜间雾霾图像的可见度增强 源码 博客地址：https://lw112190.blog.youkuaiyun.com/article/details/136215707
C# OnnxRuntime yolo12
最新发布
.NET 人工智能实践
04-08 941
C# OnnxRuntime yolo12
[C#]使用onnxruntime部署yolov11-onnx实例分割模型
FL1623863129的博客
10-06 2166
因此，需要使用适当的图像处理库（如OpenCV或System.Drawing）来调整图像的大小、归一化像素值，并将其转换为模型所需的张量格式。因此，在实际部署时，需要参考YOLOv11的文档和ONNX Runtime的API文档来确保正确理解和处理模型的输出。在C#中使用ONNX Runtime部署YOLOv11-ONNX实例分割模型，涉及到模型的加载、数据预处理、模型推理和后处理几个关键步骤。解析模型的输出，提取有用的信息（如检测框的坐标、类别和实例分割掩码），并根据需要进行进一步的处理或可视化。
C# Onnx 使用onnxruntime部署实时视频帧插值
CrazyFlyingBee的博客
02-27 1018
C# Onnx 使用onnxruntime部署实时视频帧插值
[C#]使用onnxruntime部署Detic检测2万1千种类别的物体
FL1623863129的博客
01-02 1288
对于第二种数据，仅进行分类任务，仍然可以使用相同的分类器权重W。总的来说，Detic的使用图像分类数据集的方法为目标检测带来了更多的多样性和精确性，克服了数据限制带来的问题，降低了数据获取的成本，使得可以更轻松地训练更多种类的分类器，从而提高了检测器的性能和鲁棒性。Detic方法的创新之处在于，它利用了图像分类数据的丰富性，以更大的词汇表进行推理，从而增加了目标检测器对不同类别的敏感性和准确性。然而，Detic采用了图像分类的数据集，这使得它能够检测出更多样的类别，并提供更精确的结果。
[C#]使用onnxruntime部署yolov8-onnx印章检测
FL1623863129的博客
01-05 1450
此外，YOLOv8还引入了损失函数的改进，使得模型在训练过程中能够更好地优化目标边界框的定位和分类。总的来说，YOLOv8是一种高效且实时的目标检测算法，它在保持YOLO系列算法简洁性的同时，通过改进模型结构和训练策略，提升了检测准确性和鲁棒性。在模型结构方面，YOLOv8采用了更深的卷积神经网络，通过增加网络层数和引入更多的特征提取模块来提取更丰富的图像特征。这种结构的设计使得模型能够更好地捕捉目标的细节和上下文信息，从而提高了检测的准确性。模型采用下面的数据集进行官方yolov8模型训练。
C#使用onnxruntime部署Detic 检测2万1千种类别的物体源码
01-02
​ 【测试环境】 vs2019 opencvsharp4.8.0 onnxruntime1.16.3 【视频演示】 bilibili.com/video/BV1yC4y1i7dm/ 【博客地址】 blog.youkuaiyun.com/FL1623863129/article/details/135334010 ​
C#使用onnxruntime部署LYT-Net轻量级低光图像增强.rar
06-13
在"C#使用onnxruntime部署LYT-Net轻量级低光图像增强.sln"这个解决方案文件中，包含了整个项目的代码结构。开发者可以在这里找到C#代码，用于加载和执行已经训练好的LYT-Net模型。C# API提供了与ONNX Runtime交互的...
C++ OnnxRuntime部署yolov8模型【步骤完整详细】
07-26
本文将深入探讨如何使用C++配合ONNXRuntime来部署YOLOv8模型，实现高效的实时目标检测。 让我们了解YOLOv8。YOLOv8是YOLO系列的最新迭代，它在保持快速检测速度的同时，提高了检测精度。YOLOv8通过改进网络架构、...
C# Image Caption 图生文
.NET 人工智能实践
12-29 1236
C# Image Caption 图生文
YOLO V5 ONNX模型在C# 中部署
weixin_40671962的博客
12-11 6978
完整项目（VS2022）链接：https://pan.baidu.com/s/17jQUx-Dp0YYC4YWzYLs0AA?pwd=yzj9提取码：yzj9。
C#使用加载Yolov5-seg分割模型
qq_49595983的博客
10-12 832
【代码】C#加载Yolov5分割模型。
C# 使用OnnxRuntime 部署yolov11 （Detection）
Major_S的博客
10-07 4424
i < rows;j++)*.jpg;*.jpeg;*.tiff;*.tiff;*.png";set;set;set;set;
C#使用OnnxRuntime进行Resnet50分类（支持GPU）
gaooolianggg的专栏
07-19 5515
在深度学习部署环节中，基于C#的部署资料很少。本文展示了如何使用C#来部署一个基于Resnet50的图像分类任务。 本文的代码来自OnnxRuntime自带的示例。这里我已经把代码和深度学习模型文件整理好了，可以直接下载： 代码及深度学习模型onnx文件下载连接 首先，我们需要配置GPU运行环境（如果使用CPU可以省略这一步骤）： 1. 安装Nvidia显卡驱动、CUDA、cudnn。并且CUDA和Cudnn的版本最好满足对应关系，否则...
[C#]使用ONNXRuntime部署一种用于边缘检测的轻量级密集卷积神经网络LDC
FL1623863129的博客
01-01 693
但边缘检测的大多数工作都致力于通过设计非常深入的网络来实现更高的度量（即ODS、OIS、AP），这导致了计算操作数量的增加。遗憾的是，这些边缘检测方法对于低容量设备和现实世界的应用都不实用。所提出的体系结构基于DexiNed，但为了在性能和适用性之间寻求更好的折衷，考虑了较小的滤波器尺寸和紧凑的模块。作为所提出的修改的结果，获得了一个参数小于1M的模型，并且比大多数最先进的方法轻。本文完全致力于边缘检测，即所有考虑进行定量比较的模型都使用 BIPED、MDBD 和新的 BRIND 数据集来训练和验证模型。
C# OnnxRuntime YoloV5 Demo
寒冰屋的专栏
08-18 106
C# OnnxRuntime YoloV5 Demo
C# ONNXRUNTIME 部署
01-07
### C# 项目中部署 ONNXRuntime #### 安装 ONNX Runtime NuGet 包 为了在 C# 中加载和运行 ONNX 模型，需要先确保已安装 ONNX Runtime 的 NuGet 包[^1]。 可以通过 Visual Studio 的 NuGet 包管理器来完成此操作： ```shell Install-Package Microsoft.ML.OnnxRuntime ``` 或者，在项目的 `.csproj` 文件中添加如下依赖项： ```xml <ItemGroup> <PackageReference Include="Microsoft.ML.OnnxRuntime" Version="1.16.2" /> </ItemGroup> ``` #### 创建并配置 C# 应用程序 创建一个新的 Windows Forms 或控制台应用程序，并设置目标框架为 .NET Framework 4.7.2 或更高版本。这一步骤对于后续集成 OpenCVSharp 和其他必要的库至关重要[^4]。 #### 加载 ONNX 模型文件 定义一个用于初始化 ONNX 运行时会话的方法，该方法接收模型路径作为参数并将返回 `InferenceSession` 实例对象。下面是一个简单的实现方式： ```csharp using System; using Microsoft.ML.OnnxRuntime; public class OnnxModelLoader { public static InferenceSession LoadOnnxModel(string modelPath) { var options = new SessionOptions(); return new InferenceSession(modelPath, options); } } ``` #### 准备输入数据并执行推理 准备要传递给模型的数据结构体或数组形式的张量，将其转换成适合于 ONNX Runtime 处理的形式。接着调用 `Run()` 方法传入这些预处理过的输入变量来进行预测计算过程。 假设有一个名为 `inputTensor` 的浮点数二维数组表示图像像素值，则可以这样编写代码片段以获取输出结果： ```csharp var inputMetaDefs = session.InputMetadata; // 获取输入元数据信息 var inputs = new List<NamedOnnxValue>(); foreach (var kv in inputMetaDefs.Keys.Zip(new[] { inputTensor }, Tuple.Create)) { string name = kv.Item1; object value = kv.Rest; NamedOnnxValue namedInput = NamedOnnxValue.CreateFromTensor(name, value); inputs.Add(namedInput); } // 执行推理得到输出列表 IDisposableReadOnlyCollection<DisposableNamedOnnxValue> results = session.Run(inputs); // 解析输出... float[][] outputArray = null; foreach(var result in results){ outputArray = result.AsEnumerable<float>().ToArray(); } ``` 以上展示了基本的工作流；实际应用可能还需要额外考虑错误处理机制以及性能优化等方面的内容[^3]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

不鸣~

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值