OpenVINO的博客

原创 C++内存拷贝 | 一个坏习惯可能让人掉大坑

OpenVINO™2025+YOLO11自定义模型部署C++推理遇到的坑。

原创 正式发布 | OpenVINO™2025深度学习与大模型部署教程

帮助上位机开发者提升机器视觉算法能力

原创 【梅科尔工作室】 英特尔OpenVINO™探索-杆影智判-高尔夫个性化挥杆姿态检测与训练系统

本项目打造基于YoloV8-pose的挥杆姿态智能分析系统，通过OpenVINO™平台模型轻量化部署于哪吒派开发板，利用多源挥杆图像数据实现毫秒级动作解析。

原创 【梅科尔工作室】 英特尔OpenVINO™探索-边缘驱动锂电池智能焊接平台

本方案基于边缘智能驱动，融合YOLOv8模型与OpenVINO™轻量化部署技术

转载 【梅科尔工作室-英特尔生态探索】GoldenEye乳安计划——人工智能驱动的微流控乳品快检系统

在本项目中，我们有幸采用英特尔灵犀板（AIxKit）作为核心硬件平台，并结合了OpenVino开源工具链，这不仅为项目提供了强大的边缘计算能力，更通过硬件开源与生态开放特性，推动乳制品安全检测技术向低成本、便携化方向突破。本项目是一个创新的基于微流控芯片与深度学习技术的乳品安全智能检测系统，它通过整合 PaddlePaddle算法与国产化边缘计算硬件，旨在针对鲜奶24小时牧场到工厂入场检测的时效需求，以及中小乳企收购家庭牧场奶源时的现场筛查场景，提供轻量化、低成本的三聚氰胺快检方案。

原创 梅科尔工作室 英特尔 OpenVINO™ 探索-ColonySight-菌落质检

我们打造的 ColonySight-菌落质检全息系统，是基于 PaddlePaddle 框架下目标检测模型通过 OpenVINO™ 平台进行模型转化及优化，部署于哪吒派实现菌落快速检测的一款智能菌落检测系统。

原创 【梅科尔工作室】 英特尔OpenVINO™探索-海智选参-刺海参AI分拣系统

本团队基于 OpenVINO™ 研发刺参 AI 分拣系统，融合视觉识别与机械臂技术，通过YOLOv7 算法优化实现智能分拣，分拣效率提升 5 倍、成本降 50%、损耗率≤5%，树立产业智能化升级标杆。

原创 【梅科尔工作室】 英特尔OpenVINO™探索-Rice-VisionX：稻米性状视觉感知与环境关联分析平台

Rice-VisionX 以 “稻米表型 - 环境互作机制解析” 为核心使命，依托哪吒派边缘计算硬件与多模态感知技术，打造农业 4.0 时代 “气候 - 品质” 智能翻译器与实验室级智能检测分析平台

原创 Intel OpenVINO™ 携手ComfyUI提升AI创作效率

通过OpenVINO™ node拉取请求（PR），将OpenVINO™的强大功能集成到ComfyUI中，为使用Intel硬件的创作者带来了显著的工作效率提升。

原创 Say Hi to ERNIE！英特尔Day0完成文心大模型4.5系列开源模型的端侧部署

原创 Say Hi to ERNIE！英特尔Day0完成文心大模型4.5系列开源模型的端侧部署

Optimum-Intel可以通过调用OpenVINO™ runtime后端，以实现在Intel CPU及GPU平台上的性能优化，同时由于其兼容Transformers库，因此我们可以直接参考官方示例，将其迁移至Optimum-Intel执行。在部署模型之前，我们首先需要将原始的PyTorch模型转换为OpenVINO™的IR静态图格式，并对其进行压缩，以实现更轻量化的部署和最佳的性能表现。接下来，英特尔将持续与百度保持紧密合作，适配更多的文心系列模型，携手拓宽。经过双方适配的众多模型，如。

原创 在家造AI神器！OpenVINO™让桌面推理触手可及

AI PC 是一台配备专门用于加速 AI 工作负载的硬件的计算机，意味着我们可以高效地运行包含 AI 模型的应用程序。就是这样！我们将看看如何组装它？

原创 OpenVINO™2025+Gradio实现Web方式部署大语言模型

OpenVINO™-GenAI开发包OpenCV2025已经支持多种大语言模型

原创 OpenVINO™2025+VS2022 C++开发环境搭建

点击查看详情

原创 OpenVINO™2025部署PaddleOCR模型

OpenVINO™2025部署PaddleOCR模型

转载 英特尔“芯”AI，赋能云边端｜第五期：MedGemma-4B 赋能智能医疗，基于 Core Ultra 的高效部署

MedGemma 4B IT 部署代码将于近日在 GitHub 开源。7 月 10 日直播展示 Core Ultra 部署成果，欢迎加入 2025 英特尔人工智能创新应用大赛，探索医疗 AI 未来。

原创 OpenVINO™模型部署的五种加速策略

CPU上推理YOLO11 快到起飞

原创 利用OpenVINO™在本地部署Qwen2.5-Omni全模态任务

Qwen2.5-Omni是Qwen 模型家族中新一代端到端多模态旗舰模型。

原创 在Labview平台调用OpenVINO™ C# API部署PaddleOCR v5模型

该项目基于OpenVINO™模型推理库，在C#语言下，调用封装的OpenVINO™动态链接库，部署推理PP-OCRv5中的文字识别模型；实现了在Labview平台调用OpenVINO™部署PP-OCRv5文字识别模型。

原创 借力 提示词检索解码与 OpenVINO™ GenAI 全面提升 LLM 推理

大语言模型（LLM）彻底改变了自然语言处理，推动了聊天机器人、摘要和内容生成等应用的发展。然而，推理效率依然是一个关键挑战，尤其在需要低延迟响应的场景下更为突出。

原创 使用OpenVINO™.CSharp.API在C#平台快速部署PP-OCRv5模型识别多场景文本

PP-OCRv5是百度开源的高效OCR系统，支持80+语言。

原创 报名开启|研讨会：OpenVINO™如何驱动多模态认知AI?

快来加入探索OpenVINO™的无限可能！

原创 YOLO11+OpenVINO™ 实现药片检测

点击了解详情

原创 OpenVINO™ 2025.2新版本：英特尔® XMX 图形处理器优化提升GPU性能，KV缓存压缩节省CPU使用

在 CPU 及 GPU 上支持的新模型：Phi-4, Mistral-7B-Instruct-v0.3, SD-XL Inpainting。对于 INT8 精度，CPU 的 KV 缓存压缩已默认启用，提供更低的内存占用，同时在精度上保持与 FP16 相当的水平。的大语言模型（LLM）。版本，通过前缀缓存机制提升长上下文模型的性能，并提供更小巧的安装包，无需依赖 Python。开发者可以使用 LoRA。Instruct（1.5B、3B、7B）以及 llama-3.2 Instruct（1B、3B、8B）。

原创 重磅发布 | OpenVINO™ 2025.2：全新模型支持、生成式 AI 流水线与性能全面升级

在本次更新中，我们引入了 SnapKV 缓存，这是一种运行在 CPU 和 GPU 上的选择性 KV 缓存压缩方法，能够基于注意力模式智能选择保留的键值对，支持上下文感知选择、聚类保留策略以及按注意力头自适应优化，在保留模型推理能力的同时提高效率。当启用 KV 缓存淘汰机制时，SnapKV 默认开启。想了解各类主流 AI 模型的性能基准测试，欢迎访问 OpenVINO™ Model Hub，对比它们在 Intel® CPU、集成 GPU、NPU 及加速器上的表现，帮助您选择最适合的 Intel 硬件平台。

原创 OpenVINO™2025与QWen-VL多模态视觉模型实现零样本对象检测

QWen2.5-VL视觉多模态大模型支持通过生成边框或点来精确定位图像中的对象，并能为坐标和属性提供稳定的 JSON 输出，不仅能熟练识别花、鸟、鱼和昆虫等常见物体、还可以精准检测多种水果、交通工具、动物与人类，可以零代码实现超过300种以上的对象检测并输出它们的JSON格式坐标位置信息与标签信息。QWen2.5-VL对象检测依赖于正确的提示词与输入格式，qwen2.5_3b当前支持的图像分辨率从256~1280之间，根据提示词实现目标检测位置定位输出标准化的 JSON 格式文档。

原创 新书发布 | 《OpenVINO™工具套件权威指南》正式出版！

台湾清华大学凝聚态物理学硕士，上海交通大学创新学院企业导师，曾在杜邦担任半导体研发工程师及苹果项目/业务经理，后在奥图码担任产品总监，专注云端、AI硬件和软件集成及商业化。张晶：百度飞桨高级产品经理，Linux基金会亚太区开源布道师，英特尔创新大使，《深度学习图像识别技术》《Python语言程序设计》作者之一，LabVIEW注册构架师，上海交通大学创新学院企业导师，华南农业大学工程学院研究生第二导师，东莞理工学院企业硕士导师。📄凡在活动期间购买本书，并填写表单 + 上传购书凭证。

原创 OpenVINO2025部署PaddleOCR模型

OpenVINO2025部署PaddleOCR模型

原创 OpenVINO2025+QWen2.5-VL多模态大模型应用演示

点击了解详情

原创 OpenVINO2025轻松搞定四种生成式大模型部署

因为国内方位HuggingFace不方便，所以请把下面的代码放在最前面，然后运行，就可以使用HuggingFace镜像。致力于通过定期举办线上与线下的沙龙、动手实践及开发者交流大会等活动，促进人工智能开发者之间的交流学习。LLM与chat robot代码演示(text2text)：基于TinyLlama 1B模型实现。基于一个动漫风格的SD图像生成式模型完成图像生成代码演示。微信号 : openvinodev。直接使用预训练模型函数，自动下载。SDK支持四种类型的模型，分别是。“开放、开源、共创”

原创 AI PC新突破 端侧首次支持128K上下文窗口 实现2.2倍推理优化

面壁智能正式发布并开源了「面壁小钢炮」端侧系列最新力作——MiniCPM 4.0 模型，实现了端侧可落地的系统级软硬件稀疏化的高效创新。英特尔与面壁智能从模型开发阶段就紧密合作，实现了长短文本多重推理效率的提升，端侧AI PC在Day 0全面适配，128K长上下文窗口等多方面突破。

原创 利用OpenVINO™高效推理MiniCPM4系列模型

面壁推出的MiniCPM 4.0系列LLM模型拥有 8B 、0.5B 两种参数规模，针对单一架构难以兼顾长、短文本不同场景的技术难题，MiniCPM 4.0-8B 采用「高效双频换挡」机制，能够根据任务特征自动切换注意力模式：在处理高难度的长文本、深度思考任务时，启用稀疏注意力以降低计算复杂度，在短文本场景下切换至稠密注意力以确保精度，实现了长、短文本切换的高效响应。：int4/int8权重比例，默认为1.0，0.6表示60%的权重以int4表，40%以int8表示。：权重里共享量化参数的通道数量。

原创 用 OpenVINO™ GenAI 解锁 LoRA 微调模型推理：高效定制你的大语言模型

现在，借助 OpenVINO™ GenAI，你可以无缝集成 LoRA适配器，实现对大语言模型的快速个性化定制。但如果你可以在不重新训练整个模型的情况下，高效地完成微调，会怎样？例如，如果你使用的是 Llama-3.2–3B-Instruct 模型，那么必须选择为该模型类型训练的 LoRA 适配器。以 Llama-3.2–3B-Instruct 为例，打开该模型的 Hugging Face “Model card” 页面，向下滚动页面，在右侧会看到名为 “Model tree” 的模块，如下图所示。

转载 活动预告 | Devcon 中国 系列工作坊 2025 “ GenAI 教育探索联动活动”正式来袭！

活动聚焦 AI 教学工具开发、智能体技术落地、通义灵码在 AI Coding 领域新突破、英特尔 AI 智慧教育方案、AI PC 更好服务 developer 的产品尝试与展望等核心议题，为教育从业者、开发者及科技爱好者打造一场深度交流与灵感碰撞的盛宴~”汇聚来自顶尖行业专家、技术领袖与教育实践者，共同探索 GenAl 技术、英特尔 OpenVINO™ AI 加速工具在教育场景中的创新应用与前沿趋势。致力于通过定期举办线上与线下的沙龙、动手实践及开发者交流大会等活动，促进人工智能开发者之间的交流学习。

转载 英特尔打造零售门店“最强大脑”，点亮零售行业智慧升级

从称重收银到智慧导购，基于英特尔® 酷睿™ 处理器、英特尔® 酷睿™ Ultra处理器、英特尔® 至强® 处理器和英特尔锐炫™ 独立显卡等几大支柱产品，零售门店的智慧转型正以高性能和成本效益兼具的方式火热展开。在现在和将来的智慧零售门店中，英特尔为这些屡见不鲜的场景提供算力和AI支持：消费者步入门店的瞬间，人脸识别即刻关联购物历史，完成产品精准推荐，选购完成后，刷脸快速完成结算。涵盖多业态使用场景，为社区超市、生鲜零售、连锁专卖店、农贸市场、大型商超等多元消费场景，提供优异的称重和结算方案；

转载 # YOLO11-OpenVINO™ 实例分割

YOLO11 是 YOLOv5 跟 YOLOv8 作者推出最新升级版本模型，支持分类、检测、分割、姿态评估、OBB。这里以 YOLO11 实例分割模型为例，演示 OpenVINO™ C# 如何运行，YOLO11-seg 模型的输入与输出。这个实现最大的坑在后处理部分，要基于全局编码信息乘以每个检测 BOX 区域的编码信息，才可以解码得到每个 BOX 对象的掩膜。代码是我在 OpenVINO-CSharp-API 作者开源的 YOLOv8 对象检测的代码基础上修改而成。关注我们,让开发变得更有趣。

转载 英特尔第一时间深度优化 Qwen3 大模型，升级 AI PC 能力赋能多样化场景

具体而言，在 ARL-H 64G内存的系统上部署的30B参数规模 MoE 模型，实现了33.97 token/s1的吞吐量，而且相较于同等参数规模的稠密模型，取得了显著的性能提升。其中，率先在汽车行业内采用了多节点芯粒架构的第二代 SDV SOC，其生成式和多模态 AI 性能，相比上一代，最高可提升十倍4，这让汽车 AI 体验，如舱内的实时对话、自然语言交互和复杂指令的响应等，都充满 AI 的灵性。同时，在酷睿 Ultra 的 iGPU 平台上，英特尔持续为模型带来卓越的性能。

原创 Intel OpenVINO™ Day0 实现 Qwen3 快速部署

OpenVINO™ 目前提供两种针对大语言模型的部署方案，如果您习惯于 Transformers 库的接口来部署模型，并想体验相对更丰富的功能，推荐使用基于 Python 接口的 Optimum-intel 工具来进行任务搭建。在部署模型之前，我们首先需要将原始的 PyTorch 模型转换为 OpenVINO™ 的 IR 静态图格式，并对其进行压缩，以实现更轻量化的部署和最佳的性能表现。int4/int8 权重比例，默认为1.0，0.6表示60%的权重以 int4 表，40%以 int8 表示。

原创 OpenVINO™ 2025.1 正式发布！

对于 PyTorch 模型，Executorch 提供了在边缘设备上高效运行模型的能力，适用于计算资源与内存受限的场景。在此次 OpenVINO™ 新版本中，我们引入了 Executorch 的 OpenVINO™ 后端预览支持，可加速推理并提升模型在英特尔 CPU、GPU 与 NPU 上的执行效率。在此次版本中，我们重点增强了新模型的覆盖和实际应用场景的支持，同时在性能优化上也进行了深度打磨，帮助你的 AI 解决方案运行得更快、更高效。

转载 携手 Acontis 与盟通，英特尔虚拟化驱动工业负载整合

英特尔提供完整的产品系列，以满足不同行业的多样化需求：从英特尔凌动® 处理器，英特尔® 酷睿™ 处理器到英特尔® 至强® 处理器，凭借其强大的计算性能和高可靠性，可用于工业网关、人机界面（HMI）、自动化控制、机器人、工业PC（IPC）、工业服务器等场景，提供卓越的计算能力，支持确定性实时控制以及复杂的数据处理、机器视觉和AI推理。借助虚拟化，SMP架构的x86平台能够同时运行多个操作系统，这些操作系统可以共享或独占物理核，从而支持不同工作负载的部署，实现工业负载的高效整合。