自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(310)
  • 收藏
  • 关注

原创 当 Ollama 遇上 OpenVINO™ :解锁多硬件 AI 推理新范式

OpenVINO™ GenAI 为 Ollama-OV 提供了强大的可扩展性和灵活性,支持speculative decoding,Prompt-lookup decoding, pipeline parallel, continuous batching 等 pipeline 优化技术,为未来更多 pipeline serving 优化奠定了坚实基础。Ollama 提供了极简的模型管理工具链,而 OpenVINO™ 则通过 Intel 硬件(CPU/GPU/NPU)为模型推理提供了高效的加速能力。

2025-04-08 17:04:13 263

转载 实战精选|用英特尔® 酷睿™ Ultra及OpenVINO™ GenAI本地部署DeepSeek-R1

其中 --model 参数是 HuggingFace Hub 中的模型 ID 或带有 model 的本地目录(使用 .save_pretrained 方法保存),--task 是 导出的模型应该解决的支持任务之一。本文使用optimum-intel命令,将DeepSeek-R1-Distill-Qwen-1.5B PyTorch格式模型转换为OpenVINO™ IR格式模型,并完成FP16、INT8或INT4量化。--group-size 参数将定义用于量化的组大小,-1 将导致每列量化。

2025-03-25 17:31:01 20

转载 实战精选|使用 OpenVINO™ 和哪吒开发板部署 DeepSeek

它具有部署简单和资源占用低的优势,Ollama 提供了简洁的命令行操作界面,降低了部署的技术门槛。从企业对数据隐私的严守,到边缘设备上的高效推理,再到英特尔哪吒开发套件上的灵活部署,DeepSeek-R1 正在以一种前所未有的方式,将智能的力量带到每一个角落。例如,通过优化硬件配置和资源利用,DeepSeek-R1 的部署成本可以大幅降低,同时避免了按调用次数计费的高昂费用。而当我们站在技术的十字路口,回望这一路的探索,或许会发现,真正的魔法并非来自模型本身,而是我们对技术的掌控和创新。

2025-03-22 08:31:06 23

转载 实战精选 | 在英特尔® 酷睿™ Ultra AI PC上用NPU部署YOLOv11与YOLOv12

可以看出,YOLOv8系列在NPU和GPU加速下的表现非常优越,特别是YOLOv8n和YOLOv8s,它们在GPU上的推理时间仅为2.64ms和4.62ms,显示了YOLOv8系列在加速硬件上的高效性。近期,YOLO系列模型发布了YOLOv12, 对 YOLO 框架进行了全面增强,特别注重集成注意力机制,同时又不牺牲 YOLO 模型所期望的实时处理能力,是 YOLO 系列的一次进化,突破了人工视觉的极限。相比之下,YOLOv11系列的表现略逊,虽然NPU加速有助于提升推理速度,但整体推理时间仍然较长。

2025-03-21 08:30:18 39

转载 “码”上出发·“芯”创未来|2025英特尔人工智能创新应用大赛,火热报名中!请收下这份“赛前助攻”直播课

英特尔人工智能创新应用大赛由英特尔中国主办,是面向中国开发者和企业的科技赛事。依托于英特尔及合作伙伴们丰富的软硬件一体化解决方案,为广大开发者提供一个展示创意和成果的平台。致力于通过定期举办线上与线下的沙龙、动手实践及开发者交流大会等活动,促进人工智能开发者之间的交流学习。为了帮助大家更好地学习和了解,参加考试并获取证书,,欢迎大家扫描海报二维码或点击阅读原文报名!微信号 : openvinodev。B站:OpenVINO中文社区。关注我们,让开发变得更有趣。“开放、开源、共创”

2025-03-20 19:18:17 27

转载 实战精选 | 用 OpenVINO™ GenAI解锁 LLM 极速推理:推测式解码让 AI 爆发潜能

无论您是在构建响应迅速的聊天机器人、高效的虚拟助手,还是具备可扩展性的创意应用,OpenVINO™ 正在重新定义 AI 推理的可能性。在理想情况下,草稿模型的预测完全符合主模型的预期,使得验证过程可以在单次请求内完成。这些说明涵盖了常见的设置流程,例如:安装必需的工具(CMake、Visual Studio、Python),运行 setupvars.bat 文件,导航到适当的目录。OpenVINO™ 基于这些原理,提供专为推测式解码优化的预训练模型,既简化了开发流程,又提升了性能和可扩展性。

2025-03-18 18:00:23 20

转载 报名开启 | 2025英特尔人工智能创新应用大赛即将开赛,奖金奖项、赛题赛制全面升级!...

点击蓝字关注我们在数字时代,以人工智能技术为代表的新质生产力正在加速重塑千行百业,快速迭代的市场需求和技术革新催生了多种场景的创新应用,为企业和开发者带来了新价值新机遇。英特尔人工智能创新应用大赛由英特尔中国主办,旨在提供一个展示创意和成果的平台,鼓励企业和开发者们依托英特尔及合作伙伴们丰富的软硬件一体化解决方案,进行AI创新应用创作,加速业务推进和成果落地。2024英特尔人工智能创新应用大赛吸引...

2025-03-12 08:30:14 160

转载 实战精选 | 如何利用 OpenVINO™ 在本地运行 Qwen 2.5-VL 系列模型

点击蓝字关注我们作者:杨亦诚英特尔 AI 软件工程师介绍近期阿里通义实验室在 Hugging Face 和 ModelScope 上开源了 Qwen2.5-VL 的 Base 和 Instruct 模型,包含 3B、7B 和 72B 在内的 3 个模型尺寸。其中,Qwen2.5-VL-7B-Instruct 在多个任务中超越了 GPT-4o-mini,而 Qwen2.5-VL-3B 作为端侧 A...

2025-03-11 08:30:36 91

转载 实战精选 | AI PC 新玩法:OpenVINO™ GenAI+LoRA 助你轻松实现个性化图像的高效生成...

点击蓝字关注我们作者:武卓英特尔 AI 软件布道师借助生成式 AI 模型(如 Stable Diffusion 和 FLUX.1),用户可以将平平无奇的文本提示词转换为令人惊艳的视觉效果。但如果你想生成更具风格化或定制化的图像,开源的基础模型可能无法满足你的所有需求。这时,LoRA(低秩自适应)就派上用场了。许多风格修改和增强功能现以 LoRA 的形式发布,作为基础模型的模块化附加组件。通过添加...

2025-03-10 17:45:15 27

转载 活动报名开启!OpenVINO™ 2025 新纪元,强力加持 Deepseek 本地部署

点击蓝字关注我们,让开发变得更有趣OpenVINO™当 DeepSeek-R1 遇上 OpenVINO™ 2025.0使用最新款英特尔 AI PC,实现本地部署告别回复卡顿和数据安全顾虑!还有 LoRA、Minicpm-v 的动手实践探索抢先体验!OpenVINO™ 2025开启新纪元3月14日线上线下同步开启重构AI生产力,扫码即刻锁定报名!活动信息线下参会地址:深圳·南山区英特尔大湾区科技创新...

2025-03-07 10:51:02 51

转载 DeepSeek 模型在 英特尔锐炫™ 显卡上的高效推理实践

点击蓝字关注我们,让开发变得更有趣OpenVINO™随着人工智能技术的迅猛发展,大规模语言模型(LLMs)在自然语言处理、内容生成和智能对话等领域的应用日益广泛。国产 AI 大模型 DeepSeek 凭借其强大的生成能力和广泛的应用场景,迅速成为业界焦点。目前,我们已经在英特尔® 酷睿™ 处理器与英特尔锐炫™ 显卡组成的硬件配置上,完成对大模型推理的验证,为 AI 模型的部署和推理提供了强有力的支...

2025-02-28 12:30:40 155

原创 GDC2025 | DeepSeek - AI PC 本地部署本周六向你发起挑战!

点击蓝字关注我们,让开发变得更有趣OpenVINO™英特尔×魔搭社区 联合开发者日 再次开启!本次活动以“OpenVINO™ 极客工坊 - 用AI PC点燃你的GenAI创意引擎!”为主题,特邀武卓博士与杨亦诚老师,为大家带来精彩的技术分享与动手实践。2月22日(周六)13:30-17:00,让我们“上海市徐汇西岸艺术中心 B馆 B-W-1”再见,一同用 AI PC 点燃你的 GenAI 创意引擎...

2025-02-17 17:01:00 440

转载 C# 中使用 OpenVINO™:轻松集成 AI 模型!

点击蓝字关注我们,让开发变得更有趣作者 算力魔方创始人/英特尔创新大使 刘力OpenVINO™C# 不仅在 PC 游戏开发、大型商业系统领域应用广泛,还成为开源测控、机器视觉与运动控制,以及 PC 数集与分析领域中的主流开发语言!在开源测控、机器视觉、数采与分析三大领域中,如何快速将AI模型集成到应用程序中,实现 AI 赋能和应用增值?最容易的方式是:在C#中,使用 OpenVINO™ 工具套件集...

2025-02-14 12:00:35 35

原创 实战精选 | 如何利用 OpenVINO™ 在本地构建多模态 RAG 应用

点击蓝字关注我们,让开发变得更有趣作者 | 杨亦诚 英特尔 AI 软件工程师OpenVINO™介绍Retrieval-Augmented Generation (RAG) 系统可以通过从知识库中过滤关键信息来优化 LLM 任务的内存占用及推理性能。归功于文本解析、索引和检索等成熟工具的应用,为文本内容构建 RAG 流水线已经相对成熟。然而为视频内容构建 RAG 流水线则困难得多。由于视频结合了图像...

2025-02-13 17:03:26 891

原创 OpenVINO™ 2025.0 正式发布!DeepSeek 支持、FLUX.1 图像生成、英特尔® NPU 加速全面升级...

点击蓝字关注我们,让开发变得更有趣作者 | 武卓 英特尔 OpenVINO™ 布道师OpenVINO™新年快乐!2025年首个 OpenVINO™ 版本正式发布 生成式AI(GenAI)在模型质量与应用范围上持续爆发式增长,DeepSeek 等顶尖模型已引发行业热议,这种势头预计将在 2025年延续。本次更新聚焦性能提升、更多生成式AI 模型的支持,并针对英特尔®神经处理单元(NPU)推出关键优化...

2025-02-12 17:51:14 713

转载 Deepseek 再次震撼 AI 领域,OpenVINO™ 2025.0 全力加持,性能全面升级!

点击蓝字关注我们,让开发变得更有趣作者 | 吴珊珊OpenVINO™ 开发者社区经理作者 |武卓 英特尔 OpenVINO™布道师作者 |杨亦诚 英特尔 AI 软件工程师OpenVINO™引言Deepseek 的突破性进展,引发 AI 领域震动。最近,Deepseek 的重大更新再次震撼全球 AI 领域。作为生成式 AI 领域的佼佼者,Deepseek 近期发布的新模型展现了惊人的推理速度...

2025-02-11 17:01:41 200 1

转载 实战精选 | 基于 LabVIEW 和 YOLOv8-Pose 的跳绳计数装置

点击蓝字关注我们,让开发变得更有趣作者 |李筱语指导老师 |王立奇英特尔创新大使OpenVINO™跳绳是一项广受欢迎的运动项目,因其简单易行而备受学生和运动爱好者青睐。然而,在实际运动中,人工计数容易出现误差,影响比赛和训练效果。本文提出了一种基于 LabVIEW 和 YOLOv8-Pose 的跳绳计数装置,利用深度学习的姿态检测能力和 LabVIEW 的实时处理功能,实现跳绳动作的精准识别...

2025-01-19 12:35:58 74

转载 实战精选|英特尔开发板试用:图像检测算法在RFID生产中产品缺陷检测的应用...

点击蓝字关注我们,让开发变得更有趣作者 | 吴思凯上海哲山科技OpenVINO™我们公司是一个RFID电子标签生产制造企业,随着AI技术的发展,我们将新的技术积极引入生产环节中,以便解决生产环节遇到的问题以及降低用工成本。以下是我们在RFID生产中遇到的问题:OpenVINO™芯片绑定中的缺陷产品的检测1.1 芯片绑定流程的介绍(1)点胶该流程采用点胶控制器,通过特定针筒在天线基板上特定位置点上...

2025-01-18 17:00:18 55

原创 白皮书重磅发布!OpenVINO™ 助力腾讯会议:告别会议卡顿烦恼

点击蓝字关注我们,让开发变得更有趣OpenVINO™一:当线上会议遇上卡顿魔咒在数字化办公的浪潮中,远程协作迅速成为工作常态,线上会议从边缘走向核心。大家期望借背景虚化、智能美颜等功能,为会议披上专业与隐私的“魔法外衣”,然而,电脑却像是被施了“卡顿咒”,瞬间“闹脾气”。画面卡顿如幻灯片,声音也像是在“长途跋涉”后才姗姗来迟,严重阻碍会议流程与团队协作。尽管用户对硬件“升级换代”,对系...

2025-01-16 21:20:43 201 1

原创 使用 OpenVINO™ 条件编译功能,压缩 Windows 应用体积

点击蓝字关注我们,让开发变得更有趣作者 | 杨亦诚 英特尔 AI 软件工程师排版| 吴紫琴OpenVINO™在 OpenVINO™ 编译过程中,我们可以根据应用对于硬件平台的需求,关闭或开指定推理后端的编译,以达到简化 OpenVINO™ 运行库的目的,例如 cmake -DENABLE_INTEL_GPU=OFF 便可以取消 GPU plugin 库的编译。除此以外 OpenVINO™ 还提供...

2025-01-04 13:52:59 564

转载 实战精选|英特尔开发板部署 YOLOv5:完成透明物体目标检测

点击蓝字关注我们,让开发变得更有趣作者 |杨雪峰 英特尔创新大使OpenVINO™哪吒套件简介Intel 的哪吒(Nezha)开发套件是一款专为边缘AI和物联网应用设计的高性能计算平台,搭载了Intel® N97处理器、内置 Intel® UHD Graphics GPU,并提供高达8GB LPDDR5内存与32GB至64GB eMMC存储选项。它支持 Windows 和 Linux 操作系统,...

2024-12-16 17:01:14 142

转载 活动预告 | Devcon 中国 系列工作坊 2024 第七期活动来袭!

点击蓝字关注我们,让开发变得更有趣OpenVINO™Devcon 中国 系列工作坊 2024 第七期活动正式开启!本次活动“以 AIPC 加速功能充分释放生成式 AI 潜能及创新应用分享”为主题,特邀武卓老师、杨亦诚老师、梁帅老师为大家带来技术分享。第七期活动定于2024年12月20日 星期五 14:00-15:20报名链接如下:https://uao.so/ce21722c960OpenVIN...

2024-12-13 21:59:58 29

转载 实战精选|用英特尔 CPU 及 GPU 运行 OpenAI-whisper 模型语音识别

点击蓝字关注我们,让开发变得更有趣OpenVINO™介绍Whisper 作为一款卓越的自动语音识别(ASR)系统,依托海量且多元的监督数据完成训练,其数据规模高达 680,000 小时,涵盖多种语言及丰富多样的任务类型,广泛采撷自网络资源,以此铸就了坚实的性能根基。从技术架构层面剖析,Whisper 构建于先进的 Transformer 框架之上,采用经典的编码器 - 解码器模型设计,也就是广为人...

2024-12-09 09:00:58 580

转载 2024 “AI+硬件创新大赛”获奖名单出炉,浙大、上交与复旦联队等夺冠

点击蓝字关注我们,让开发变得更有趣OpenVINO™2024年11月30日,由开放源子开源基金会主办,魔搭社区、英特尔与阿里云共同承办的“AI+硬件创新大赛”总决赛在杭州圆满落幕。本次大赛从全国逾400支队伍中决出26支队伍晋级总决赛,作业智能批改机、桌面级AI教育机器人、智能轮椅Agent、AI手语手套、AI针灸等创意项目,覆盖教育、机器人、医疗、公益等不同领域,最终两大赛道冠军分别由来自浙江大...

2024-12-05 08:00:31 188

转载 实战精选|树莓派跑 LLM 难上手?也许你可以试试 Intel 哪吒开发板

点击蓝字关注我们,让开发变得更有趣OpenVINO™大型语言模型(LLM)通过其卓越的文本理解与生成能力,为机器智能带来了革命性的进步。然而,这些模型的运行通常需要消耗大量的计算资源,因此它们主要部署在性能强大的服务器上。随着技术的发展和边缘计算的兴起,现在有潜力在更小巧、便携的设备上部署这些模型。例如,Raspberry Pi 树莓派和 Intel 哪吒开发套件等单片机。尽管体积小巧,但它们具备...

2024-12-04 09:00:47 249

转载 实战精选|英特尔开发板 - 哪吒套件部署 YOLOv5:完成透明物体目标检测

点击蓝字关注我们,让开发变得更有趣OpenVINO™哪吒套件简介英特尔的哪吒(Nezha)开发套件是一款专为边缘 AI 和物联网应用设计的高性能计算平台,搭载了英特尔® N97处理器、内置英特尔® UHD Graphics GPU,并提供高达 8GB LPDDR5 内存与32GB至 64GB eMMC 存储选项。它支持 Windows 和 Linux 操作系统,具备丰富的接口如千兆以太网、HDMI...

2024-12-02 12:45:26 117

原创 最新端侧小钢炮!利用 OpenVINO™ 部署 GLM-Edge 全家桶

点击蓝字关注我们,让开发变得更有趣作者 |杨亦诚 英特尔 AI 软件工程师排版| 吴紫琴OpenVINO™今天智谱发布其最新的 GLM-Edge 系列 SLM 模型, GLM-Edge 系列是智谱在面向端侧真实落地使用的场景下的一次尝试,由两种尺寸的大语言对话模型和多模态理解模型组成( GLM-Edge-1.5B-Chat,GLM-Edge-4B-Chat,GLM-Edge-V-2B,GLM-...

2024-11-30 09:00:53 548

转载 活动推荐 | DevFest 2024 上海站开启!

ScienceTechnology2024年12月8日谷歌开发者社区于上海举办的年度DevFest 谷歌开发者节即将揭开帷幕!“Empowering Developers with AI-Driven Innovation”“利用 AI 驱动创新赋能开发者”查看????详细议程临近活动,今天这篇文章希望集结开发者们的智慧,提前热个身!这是一个关于五大科技地标的小挑战顺利完成的朋友即可以勇夺VIP门票参...

2024-11-29 11:18:00 118

转载 本周六“2024 AI+硬件创新大赛”决赛-杭州 杭创(人工智能)营见!

点击蓝字关注我们,让开发变得更有趣OpenVINO™在大模型加持下,AI 硬件迎来又一个黄金机遇期。成熟终端手机、汽车、电脑等正加装 AI 能力作为新卖点,AI 生态建设初始,亟需优秀的 AI 应用。同时,新的硬件形态层出不穷,如 Meta-Ray Glass、Rabbit R1、Plaud Note 的先行者已创造销量奇迹,还有AI 玩具、AI 穿戴设备、AI 教育工具、AI 机器人等群雄角逐。...

2024-11-26 16:23:00 159

原创 OpenVINO™ 2024.5 新发布 | 使用流水线简易部署多模态 AI

点击蓝字关注我们,让开发变得更有趣作者 | Whitney Foster OpenVINO™产品专家 Yury Gorbachev 英特尔院士 OpenVINO™ 产品架构师翻译| 武卓 博士 英特尔 OpenVINO™ 布道师排版| 吴紫琴OpenVINO™在过去的一年里,大语言模型(LLM)彻底改变了文本处理,为文本摘要、重写、文档分析等提供了解决方案。然而,我们每天与之交互...

2024-11-22 14:24:37 967

原创 实战精选|如何使用 OpenVINO™ 在 ElectronJS 中创建桌面应用程序

点击蓝字关注我们,让开发变得更有趣作者 | Mikołaj Roszczyk 华沙理工大学物联网工程师翻译| 武卓 英特尔 AI 软件布道师排版| 吴紫琴OpenVINO™最近,我完成了一个 demo 演示,展示了 OpenVINO™ 在 Node.js 框架中的强大功能。得益于与 Electron.js 的集成,该演示不仅能够高效地执行神经网络推理,还提供了交互式的用户体验。OpenVIN...

2024-11-18 18:59:58 1269

转载 实战精选|使用 OpenVINO™ C# 异步推理接口部署 YOLOv8 ——在哪吒开发板上也可以实现视频推理...

点击蓝字关注我们,让开发变得更有趣作者 | 颜国进 英特尔边缘计算创新大使OpenVINO™2024英特尔®“走近开发者”互动活动-哪吒开发套件免费试 用 AI 创新计划:哪吒开发板是专为支持入门级边缘 AI 应用程序和设备而设计,能够满足人工智能学习、开发、实训等应用场景。为了测试该开发板的推理性能,同时测试所推出的 OpenVINO™ C# API项目能否应用到该开发板上,我们使用该开发板...

2024-11-13 12:35:34 89

转载 白皮书推荐|英特尔携手浪潮信息,共塑边缘智算新未来

在数字化转型和智能化升级的大背景下,数据的处理和计算能力的部署正逐渐向网络边缘和设备边缘转移。这种转变不仅能够显著降低应用的响应延迟,确保数据安全,还能够减少对集中式云服务和核心网络的依赖,同时提升对多样化应用场景的适应性和服务能力,而随着大模型和人工智能领域的快速发展,算力需求将愈发成为制约企业转型、成长的因素。从边缘计算向边缘智算迈进随着边缘计算逐步进入稳健发展期,使用单一边缘计算技术构建的应...

2024-11-11 17:00:20 82

转载 实战精选|使用 OpenVINO™ Model Server 在哪吒开发板上部署模型

点击蓝字关注我们,让开发变得更有趣作者 | 王国强 苏州嘉树医疗科技有限公司 算法工程师指导 | 颜国进 英特尔边缘计算创新大使OpenVINO™OpenVINO™ Model Server 介绍OpenVINO™ Model Server(OVMS)是一个高性能的模型部署系统,使用 C++ 实现,并在 Intel 架构上的部署进行了优化,使用 OpenVINO™ 进行推理,推理服务通过 gPR...

2024-11-07 17:01:06 92

原创 实战精选 | 一步安装,一步配置:用 vLLM + OpenVINO™ 轻松加速大语言模型推理...

点击蓝字关注我们,让开发变得更有趣作者 |武卓 博士 英特尔 OpenVINO™ 布道师排版| 吴紫琴OpenVINO™随着大语言模型的广泛应用,模型的计算需求大幅提升,带来推理时延高、资源消耗大等挑战。vLLM 作为高效的大模型推理框架,通过 OpenVINO™ 的优化,vLLM 用户不仅能够更高效地部署大模型,还能提升吞吐量和处理能力,从而在成本、性能和易用性上获得最佳平衡。这种优化对于需...

2024-11-06 17:00:29 776

转载 11月9日,OpenVINO™ 助力 Gemma 快速智能部署 | GDG × 华师大 DevFest 特别活动开启!...

点击蓝字关注我们,让开发变得更有趣OpenVINO™11月9日“OpenVINO™ 助力 Gemma 快速智能部署”GDG × 华师大 DevFest 特别活动开启!OpenVINO™活动信息「活动」:GDG × 华师大 AI+技术分享大会「时间」:11月9日(周六)13:00 -17:30「地点」:华东师范大学中北校区逸夫楼报告厅OpenVINO™本次活动由 上海华东师范大学、GDG主办,Da...

2024-11-04 16:30:42 43

原创 本地模型部署工具:OpenVINO™

点击蓝字关注我们,让开发变得更有趣OpenVINO™OpenVINO™ 是一个深度学习模型的部署工具,可实现针对特定模型结构的优化与推理任务提升,目前 OpenVINO™ 已适配x86,ARM 在内的异构硬件终端,支持 CNN,Transformer 等多种网络结构,提供 C/C++/Python 等多类 API 接口语言,不管是传统的机器视觉 NLP 模型,或是最新的 LLM 多模态模型,都可以...

2024-10-30 10:42:11 820

转载 英特尔 CEO 帕特·基辛格:共筑 x86 核心架构,推动 AI PC 创新

点击蓝字关注我们,让开发变得更有趣OpenVINO™AI正在“飞入寻常百姓家”,成为随时随地可用的生产力和创意工具,让我们的日常生活变得更加美好。在日新月异的技术进展背后,是性能更强、功耗更低,更能适应AI工作负载需求的芯片,提供着不可或缺的算力支持。其中,芯片架构起着至关重要的作用。英特尔公司首席执行官帕特·基辛格近日表示,得益于AI所带来的机遇,作为数十年来计算技术基础的x86架构,正在迎来一...

2024-10-25 12:45:32 66

原创 实战精选 | 从0到1构建 OpenVINO™ 智能体流水线

点击蓝字关注我们,让开发变得更有趣作者 | 杨亦诚 英特尔 AI 软件工程师排版| 吴紫琴OpenVINO™智能体 AI Agent 作为大模型的衍生应用,具有对任务的理解、规划与行动能力。它可以通过将一个复杂的用户请求拆分成不同的子任务,并依次调用外部工具来解决这些任务,并将其中每个任务步骤的执行结果,按预先规划的逻辑串联起来,从而达成最终的目的。接下来我们就通过一个例子,演示如何利用 Ope...

2024-10-18 17:07:22 861

转载 大赛章程 | “AI+硬件 创新大赛” 开赛报名啦~

点击蓝字关注我们,让开发变得更有趣OpenVINO™OpenVINO™ × 魔搭社区 最新赛程!!!“AI+硬件 创新大赛”来喽~OpenVINO™大赛亮点双赛道模式开启~赛道一:基于成熟硬件(手机、PC、汽车等),打造端云协同的 AI 应用。赛道二:重新定义全新硬件,提供软硬件一体的 AI 产品。超丰厚奖金~五十万奖金池13个获奖名额OpenVINO™大赛内容先睹为快OpenVINO™-----...

2024-10-17 15:13:14 69

腾讯会议与OpenVINO合作优化NPU算力增强会议系统智能化

概要:本文主要介绍了腾讯会议携手英特尔的开源AI工具套件OpenVIN0,成功实现了在酷睿Ultra处理器中NPU上的深度学习模型部署与优化,尤其是人像分割的功能。利用NPU算力不仅提升了模型处理的实时性和精度,同时也减少了对CPU的压力,并在很大程度上节约了能耗。为了提高软件分发效率,减少流量占用,腾讯还利用OpenVINO提供的条件编译功能压缩运行库体积。腾讯会议是一款广泛使用的在线视频会议应用,服务于全球众多企业和个人用户;而英特尔则是一直致力于发展技术创新和技术赋能的企业,这次合作是双方优势互补的表现。 适用人群:对在线会议技术细节感兴趣的IT专业人士、企业管理者或者对AI应用有兴趣的一般大众。 使用场景及目标:此案例展示了一个成熟的应用程序——腾讯会议如何借助Intel的技术优化其性能。对于希望了解或实施类似解决方案的专业人士来说,这是一个很好的学习资料。它旨在解决在线会议时的人像背景虚化等问题,并且展示了跨平台兼容性的实现方法。 其他说明:除了介绍核心技术点外,本文还包含了部分技术实现的详细流程及参数设置说明。值得注意的是,文中提到的一些性能指标可能会随时间有所变化。

2025-01-16

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除