OpenVINO的博客

原创 【手把手教程】解锁OpenVINO™ WWB：GenAI模型优选从此So Easy

WWB工具全称为who_what_benchmark，是OpenVINO™ GenAI中的生成式AI模型简易准确率基准测试工具，主要用于评估转换或量化压缩后模型与原版模型的相似度，也是社区优选模型的重要评审工具。

原创 DevCon直播回顾：基于Intel AI PC与OpenVINO™，重塑本地AI的开发方式

在 PC 上运行生成式 AI，从未如此简单与强大

原创 明日直播 | 基于Windows AI Foundry与OpenVINO™，释放AI PC潜能

在AI PC浪潮迅速崛起的当下，如何高效开发并落地本地AI应用成为行业焦点。本次演讲将以“基于Windows AI Foundry与OpenVINO™，释放AI PC潜能”为主题，解读英特尔如何携手微软，为开发者打造完整的AI PC生态加速方案。从Windows AI APIs到Foundry Local，再到OpenVINO™执行推理加速和快速部署，我们将分享如何用统一接口、高性能推理与硬件协同，轻松实现本地AI部署。

原创 直播预告：OpenVINO™与Windows AI Foundry赋能AI端侧落地

报名通道已开启，点击链接即可完成报名：https://uao.so/sh1eKiZCN

原创 让模型说人话、懂结构：OpenVINO™ GenAI 全面开启结构化输出新时代！

借助 OpenVINO™ GenAI，你现在可以“开箱即用”地获得可靠的结构化解码能力。

原创 端侧AI创新挑战赛初赛倒计时，这些干货能帮你！

为帮助大家在最后冲刺阶段高效备战，我们精心梳理了既往全部学习资源，以供随时取用。

原创 用OpenVINO™在端侧设备加速通义大模型推理与部署

原创 100% 开源边缘智能引擎：OpenVINO™ 与 EdgeX Foundry 完美结合，零代码即插即用实践（GitHub开源）

在边缘计算的浪潮中，人工智能（AI）推理从云端向边缘设备的迁移已成为趋势，带来更低的延迟、更高的隐私保护和更优的资源效率。Intel 的 OpenVINO™ 工具包及其 Model Server (OVMS)，结合 EdgeX Foundry 的开源框架，提供了一个强大的边缘智能引擎。

原创 YOLO Vision 来了！和我们一起解锁AI视觉的“芯”速度！

10月26日（周日），Ultralytics YOLO Vision Shenzhen 2025 即将在深圳开幕！

原创 英特尔Day0适配Qwen3-VL-4B/8B新模型，释放系统资源带来流畅体验

除了利用Optimum-cli工具导出OpenVINO™模型外，我们还在Optimum-intel中重构了Qwen3-VL和Qwen3-VL-MOE模型的Pipeline，将官方示例示例中的的Qwen3VLForConditionalGeneration替换为OVModelForVisualCausalLM便可快速利用OpenVINO™进行模型部署，完整示例可参考以下代码流程。今晨，阿里通义又发布了Qwen3-VL的新成员，Qwen3-VL-4B和Qwen3-VL-8B。

原创 端侧AI创新挑战赛正式启动

我们需要你把 Qwen"装进设备"！用通义干问在端侧 (手机、开发板、Al PC) 玩出花样，无论是工具、助手还是创意Demo，我们都欢迎！

原创 一键加载GGUF！OpenVINO™ GenAI让大模型推理更快更轻

让我们一起看看如何通过 OpenVINO™ GenAI 快速运行 GGUF 模型推理！

原创 英特尔Day 0高效适配Qwen3新模型，打造智能体提升原生AI PC流畅体验

伴随阿里巴巴通义实验室发布Qwen3-VL中小尺寸模型，英特尔宣布已在Day 0完成了针对该模型的适配，并实现对近期发布的Qwen3-Next模型的高效部署。

原创 端侧AI创新挑战赛正式启动！

点击链接，了解活动详情: https://modelscope.cn/competition/145/%E6%AF%94%E8%B5%9B%E7%AE%80%E4%BB%8B。

原创 OpenVINO™ 2025.3: 更多生成式AI，释放无限可能

在本次新版本中，我们新增了对更多生成式 AI 模型的支持，从大语言模型（LLM）到多模态视觉语言模型（VLM），包括 Phi-4-mini-reasoning、AFM-4.5B、Gemma-3-1B、Gemma-3-4B 和 Gemma-3-12B。无论你想打造智能聊天机器人、领先的计算机视觉应用，还是突破性的生成式 AI 解决方案，OpenVINO™ 2025.3 都能为你提供简洁高效的工具，加速从灵感到落地的全过程，助力你的 AI 创意照进现实。它支持在内容生成场景中的工具调用，例如。

原创 在Intel B60 GPU部署Flux.1 Kontext模型

FLUX.1 Kontext 是Black Forest Labs 发布的，可用于生成和编辑图像的全新模型系列，该系列模型能够同时使用文本和图像进行提示，并无缝地提取和修改视觉概念，从而生成全新、连贯的渲染效果。

原创 利用Optimum-intel快速部署Qwen3-embedding系列模型

本文将分享如何利用Optimum-intel快速在Intel平台上部署Qwen3-embedding系列模型。

原创 加速英特尔® GPU上的大语言模型（LLM）：动态量化实用指南

动态量化是一种强大的优化技术，能显著提升 Transformer 模型在英特尔® GPU（具备 XMX 硬件，如 Lunar Lake、Arrow Lake 以及 Alchemist、Battlemage 等系列的集成及独立显卡）上的性能。OpenVINO™ 2025.2 中的动态量化是一种简单却高效的方法，可自动加速英特尔® GPU 上的 Transformer 推理。动态量化通过在矩阵乘法（MatMul）运算前，将输入激活值（通常是 fp16）即时转换为 int8 来降低计算成本。

原创 报名开启丨研讨会：OpenVINO™创新协作，赋能AI端侧落地

本次线上盛会深度聚焦AI模型优化与端侧应用落地的核心实践，旨在打通技术前沿与产业应用的关键环节。

原创 如何利用OpenVINO™工具套件高效部署混元系列模型

此外，openvino-genai提供了chat模式的构建方法，通过声明pipe.start_chat()以及pipe.finish_chat()，多轮聊天中的历史数据将被以kvcache的形态，在内存中进行管理，从而提升运行效率。openvino-genai 示例：https://github.com/openvinotoolkit/openvino.genai/blob/master/samples/python/text_generation/chat_sample.py。

原创 利用OpenVINO™ Day0快速部署端侧可用的MiniCPM-V4.0视觉大模型

OpenVINO™作为一个跨平台的深度学习模型部署工具，可以极大优化大语言的模型的推理性能，在充分激活硬件算力同时，降低对于内存资源的占用。本文将介绍如何利用OpenVINO™工具套件在本地部署MiniCPM-V4.0模型。

原创 C++内存拷贝 | 一个坏习惯可能让人掉大坑

OpenVINO™2025+YOLO11自定义模型部署C++推理遇到的坑。

原创 正式发布 | OpenVINO™2025深度学习与大模型部署教程

帮助上位机开发者提升机器视觉算法能力

原创 【梅科尔工作室】 英特尔OpenVINO™探索-杆影智判-高尔夫个性化挥杆姿态检测与训练系统

本项目打造基于YoloV8-pose的挥杆姿态智能分析系统，通过OpenVINO™平台模型轻量化部署于哪吒派开发板，利用多源挥杆图像数据实现毫秒级动作解析。

原创 【梅科尔工作室】 英特尔OpenVINO™探索-边缘驱动锂电池智能焊接平台

本方案基于边缘智能驱动，融合YOLOv8模型与OpenVINO™轻量化部署技术

转载 【梅科尔工作室-英特尔生态探索】GoldenEye乳安计划——人工智能驱动的微流控乳品快检系统

在本项目中，我们有幸采用英特尔灵犀板（AIxKit）作为核心硬件平台，并结合了OpenVino开源工具链，这不仅为项目提供了强大的边缘计算能力，更通过硬件开源与生态开放特性，推动乳制品安全检测技术向低成本、便携化方向突破。本项目是一个创新的基于微流控芯片与深度学习技术的乳品安全智能检测系统，它通过整合 PaddlePaddle算法与国产化边缘计算硬件，旨在针对鲜奶24小时牧场到工厂入场检测的时效需求，以及中小乳企收购家庭牧场奶源时的现场筛查场景，提供轻量化、低成本的三聚氰胺快检方案。

原创 梅科尔工作室 英特尔 OpenVINO™ 探索-ColonySight-菌落质检

我们打造的 ColonySight-菌落质检全息系统，是基于 PaddlePaddle 框架下目标检测模型通过 OpenVINO™ 平台进行模型转化及优化，部署于哪吒派实现菌落快速检测的一款智能菌落检测系统。

原创 【梅科尔工作室】 英特尔OpenVINO™探索-海智选参-刺海参AI分拣系统

本团队基于 OpenVINO™ 研发刺参 AI 分拣系统，融合视觉识别与机械臂技术，通过YOLOv7 算法优化实现智能分拣，分拣效率提升 5 倍、成本降 50%、损耗率≤5%，树立产业智能化升级标杆。

原创 【梅科尔工作室】 英特尔OpenVINO™探索-Rice-VisionX：稻米性状视觉感知与环境关联分析平台

Rice-VisionX 以 “稻米表型 - 环境互作机制解析” 为核心使命，依托哪吒派边缘计算硬件与多模态感知技术，打造农业 4.0 时代 “气候 - 品质” 智能翻译器与实验室级智能检测分析平台

原创 Intel OpenVINO™ 携手ComfyUI提升AI创作效率

通过OpenVINO™ node拉取请求（PR），将OpenVINO™的强大功能集成到ComfyUI中，为使用Intel硬件的创作者带来了显著的工作效率提升。

原创 Say Hi to ERNIE！英特尔Day0完成文心大模型4.5系列开源模型的端侧部署

原创 Say Hi to ERNIE！英特尔Day0完成文心大模型4.5系列开源模型的端侧部署

Optimum-Intel可以通过调用OpenVINO™ runtime后端，以实现在Intel CPU及GPU平台上的性能优化，同时由于其兼容Transformers库，因此我们可以直接参考官方示例，将其迁移至Optimum-Intel执行。在部署模型之前，我们首先需要将原始的PyTorch模型转换为OpenVINO™的IR静态图格式，并对其进行压缩，以实现更轻量化的部署和最佳的性能表现。接下来，英特尔将持续与百度保持紧密合作，适配更多的文心系列模型，携手拓宽。经过双方适配的众多模型，如。

原创 在家造AI神器！OpenVINO™让桌面推理触手可及

AI PC 是一台配备专门用于加速 AI 工作负载的硬件的计算机，意味着我们可以高效地运行包含 AI 模型的应用程序。就是这样！我们将看看如何组装它？

原创 OpenVINO™2025+Gradio实现Web方式部署大语言模型

OpenVINO™-GenAI开发包OpenCV2025已经支持多种大语言模型

原创 OpenVINO™2025+VS2022 C++开发环境搭建

点击查看详情

原创 OpenVINO™2025部署PaddleOCR模型

OpenVINO™2025部署PaddleOCR模型

转载 英特尔“芯”AI，赋能云边端｜第五期：MedGemma-4B 赋能智能医疗，基于 Core Ultra 的高效部署

MedGemma 4B IT 部署代码将于近日在 GitHub 开源。7 月 10 日直播展示 Core Ultra 部署成果，欢迎加入 2025 英特尔人工智能创新应用大赛，探索医疗 AI 未来。

原创 OpenVINO™模型部署的五种加速策略

CPU上推理YOLO11 快到起飞

原创 利用OpenVINO™在本地部署Qwen2.5-Omni全模态任务

Qwen2.5-Omni是Qwen 模型家族中新一代端到端多模态旗舰模型。

原创 在Labview平台调用OpenVINO™ C# API部署PaddleOCR v5模型

该项目基于OpenVINO™模型推理库，在C#语言下，调用封装的OpenVINO™动态链接库，部署推理PP-OCRv5中的文字识别模型；实现了在Labview平台调用OpenVINO™部署PP-OCRv5文字识别模型。