C++
关注
分享
扫一扫
文章平均质量分 85
椒颜皮皮虾྅
英特尔边缘计算创新大使 百度飞桨开发者技术专家(PPDE) OpenVINO C# API NuGet Package 作者 主要致力于模型部署相关方面的研究，OpenVINO、TensorRT模型部署套件在C#端使用。
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
【OpenVINO™】在英特尔® 酷睿™ Ultra AI PC 上使用OpenVINO™ GenAI部署多种图像生成模型快速实现文生图功能
全新英特尔酷睿Ultra 200V系列处理器对比上代Meteor Lake，升级了模块化结构、封装工艺，采用全新性能核与能效核、英特尔硬件线程调度器、Xe2微架构锐炫GPU、第四代NPU…由此也带来了CPU性能提升18%，GPU性能提升30%，整体功耗降低50%，以及120TOPS平台AI算力。酷睿Ultra 200V系列处理器共有9款SKU，包括1款酷睿Ultra 9、4款酷睿Ultra 7以及4款酷睿Ultra 5，全系8核心8线程(4个性能核与4个能效核)，具体规格如下。原创 2025-04-04 09:30:00 · 1391 阅读 · 0 评论 -
【OpenVINO™】使用 OpenVINO™ GenAI 部署大语言模型快速构建一个Chat实例
英特尔发行版 OpenVINO™ 工具套件基于 oneAPI 而开发，可以加快高性能计算机视觉和深度学习视觉应用开发速度工具套件，适用于从边缘到云的各种英特尔平台上，帮助用户更快地将更准确的真实世界结果部署到生产系统中。通过简化的开发工作流程，OpenVINO™ 可赋能开发者在现实世界中部署高性能应用程序和算法。原创 2024-08-05 10:00:00 · 2103 阅读 · 1 评论 -
【YOLOv10】使用 TensorRT C++ API 调用GPU加速部署 YOLOv10 实现 500FPS 推理速度——快到飞起！
NVIDIA ® TensorRT ™ 是一款用于高性能深度学习推理的 SDK，包含深度学习推理优化器和运行时，可为推理应用程序提供低延迟和高吞吐量。YOLOv10是清华大学研究人员近期提出的一种实时目标检测方法，通过消除NMS、优化模型架构和引入创新模块等策略，在保持高精度的同时显著降低了计算开销，为实时目标检测领域带来了新的突破。> 在本文中，我们将演示如何使用NVIDIA TensorRT C++ API 部署YOLOv10目标检测模型，实现模型推理加速。原创 2024-06-04 14:54:28 · 4531 阅读 · 0 评论 -
【OpenCV】 OpenCV (C++) 与 OpenCvSharp (C#) 之间数据通信
但是在实际使用中，由于涉及到不同编程语言之间互相调用，导致C++ 中的OpenCV与C#中的OpenCvSharp 图像数据在不同编程语言之间难以有效传递。在本文中我们将结合OpenCvSharp源码实现原理，探究两种数据之间的通信方式。原创 2024-03-27 13:04:35 · 3326 阅读 · 3 评论 -
【OpenVINO 】在 MacOS 上编译 OpenVINO C++ 项目
英特尔公司发行的模型部署工具OpenVINO™模型部署套件，可以实现在不同系统环境下运行，且发布的OpenVINO™ 2023最新版目前已经支持MacOS系统并同时支持在苹果M系列芯片上部署模型。在该项目中，我们将向大家展示如何在MacOS系统、M2芯片的Macbook Air电脑上，展示使用OpenVINO™ C++ API 部署深度学习模型。原创 2024-01-08 11:52:20 · 1875 阅读 · 0 评论 -
【PaddleInferenceSharp】基于C#和Paddle Inference 部署PaddlePaddle模型
Paddle Inference 是飞桨的原生推理库， 提供服务器端的高性能推理能力，直接基于飞桨的训练算子，因此它支持飞桨训练出的所有模型的推理；Paddle Inference 功能特性丰富，性能优异，针对不同平台不同的应用场景进行了深度的适配优化，做到高吞吐、低时延，保证了飞桨模型在服务器端即训即用，快速部署。为了能够在C#语言中调用Paddle Inference模型推理库，根据C++动态链接库的原理，推出PaddleInferenceSharp，实现直接在C#平台调用Paddle Inferenc原创 2022-11-04 14:59:56 · 2353 阅读 · 6 评论 -
基于OpenVINO部署PaddlePadle-YOLOE模型—4.Python实现
目前对于OpenVINOTM直接部署PP-YOLOE还存在一些问题，该项目针对部署中存在的问题，对PP-YOLOE模型进行裁剪，在不顺时模型精度基础上，打通了OpenVINOTM直接部署PP-YOLOE之路。原创 2022-10-28 17:51:16 · 1300 阅读 · 2 评论 -
基于OpenVINO部署PaddlePadle-YOLOE模型—3.C++部署实现
目前对于OpenVINOTM直接部署PP-YOLOE还存在一些问题，该项目针对部署中存在的问题，对PP-YOLOE模型进行裁剪，在不顺时模型精度基础上，打通了OpenVINOTM直接部署PP-YOLOE之路。原创 2022-10-28 17:49:37 · 1892 阅读 · 4 评论 -
基于OpenVINO部署PaddlePadle-YOLOE模型—2.模型下载与转换
目前对于OpenVINOTM直接部署PP-YOLOE还存在一些问题，该项目针对部署中存在的问题，对PP-YOLOE模型进行裁剪，在不顺时模型精度基础上，打通了OpenVINOTM直接部署PP-YOLOE之路。原创 2022-10-28 17:47:09 · 1742 阅读 · 2 评论 -
基于OpenVINO部署PaddlePadle-YOLOE模型—1.项目介绍
目前对于OpenVINOTM直接部署PP-YOLOE还存在一些问题，该项目针对部署中存在的问题，对PP-YOLOE模型进行裁剪，在不顺时模型精度基础上，打通了OpenVINOTM直接部署PP-YOLOE之路。原创 2022-10-28 17:40:22 · 1210 阅读 · 0 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发
C#调用OpenVINOTM部署Al模型项目开发项目，简称OpenVinoSharp，这是一个示例项目，该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件，进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口，并在C#语言下实现应用。该项目主要通过调用dll文件方式实现。原创 2022-09-15 10:50:06 · 923 阅读 · 0 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发-5.C#构建Core类
C#调用OpenVINOTM部署Al模型项目开发项目，简称OpenVinoSharp，这是一个示例项目，该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件，进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口，并在C#语言下实现应用。......原创 2022-09-04 17:11:24 · 832 阅读 · 0 评论 -
【C++学习】C++运算符重载
C++中的运算符种类很多，除了我们数学中学的各种关系运算符、算数运算符之外，C++也有其特有的运算符。运算符其实还有很多种，上面只列举了部分我们在编程中常用到的运算符。原创 2022-08-07 10:24:36 · 577 阅读 · 0 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发-4.创建OpenVINO 方法C++动态链接库-2
C#调用OpenVINOTM部署Al模型项目开发项目，简称OpenVinoSharp，这是一个示例项目，该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件，进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口，并在C#语言下实现应用。......原创 2022-08-10 10:05:58 · 1024 阅读 · 0 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发-4.创建OpenVINOTM 方法C++动态链接库-1
C#调用OpenVINOTM部署Al模型项目开发项目，简称OpenVinoSharp，这是一个示例项目，该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件，进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口，并在C#语言下实现应用。...原创 2022-08-06 15:54:44 · 1461 阅读 · 0 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发-3.模型介绍
C#调用OpenVINOTM部署Al模型项目开发项目，简称OpenVinoSharp，这是一个示例项目，该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件，进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口，并在C#语言下实现应用。...原创 2022-08-06 15:51:43 · 1072 阅读 · 0 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发-2.软件安装
C#调用OpenVINOTM部署Al模型项目开发项目，简称OpenVinoSharp，这是一个示例项目，该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件，进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口，并在C#语言下实现应用。...原创 2022-08-03 20:10:00 · 927 阅读 · 0 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发-1.项目概述
C#调用OpenVINOTM部署Al模型项目开发项目，简称OpenVinoSharp，这是一个示例项目，该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件，进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口，并在C#语言下实现应用。......原创 2022-08-03 19:57:23 · 886 阅读 · 0 评论