实战精选 | 如何在一台 Linux AI PC 上高效运行 OpenVINO™

点击蓝字

关注我们

作者：Adrian Boguszewski，英特尔 AI 软件布道师

           武卓博士，英特尔 AI 软件布道师

什么是 AI PC，为什么它有一个特殊的名字？

AI PC 是时下 PC 领域的一个热门话题。与普通 PC 不同，AI PC 配备了先进的硬件，例如强大的 GPU，可以超快地运行具有生成式AI或大语言模型等繁重计算要求的 AI 模型推理，更重要的是，它还具有称为神经处理单元 （NPU） 的专用 AI 芯片。NPU 针对低功耗进行了优化，同时保持了高计算性能，这使其在处理特定 AI 工作负载方面表现出色，例如背景模糊、噪声去除等运行连续推理而不会快速耗尽电池电量的AI推理任务。因此，基本上，如果您需要一台能够处理繁重的 AI 工作或能够更有效地管理复杂的多线程 AI 应用的计算机，那么配备了英特尔®酷睿™Ultra处理器的 AI PC  就是为您打造的。有关这款 AI PC 的更多信息，请参阅我们的文章 https://medium.com/openvino-toolkit/ai-is-coming-to-the-pc-ai-pc-essentials-ba2aa8686a59 。

在 OpenVINO™ 中验证设备可用性

OpenVINO™ 是英特尔推出的一款针对AI模型进行优化、推理加速以及快速部署的开源 AI 工具套件。针对配备了英特尔®酷睿™Ultra 处理器的 AI PC ，可以帮助 AI 模型在 CPU、GPU 以及 NPU 上进行快速部署以及推理加速。接下来，我们