NPU（Neural Processing Unit）与主机（Host CPU）的连接方式

最新推荐文章于 2025-12-23 17:28:54 发布
最新推荐文章于 2025-12-23 17:28:54 发布
阅读量68 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： 手把手教你学 PCIe 专栏简介 手把手教你学 GPU SoC 芯片 文章标签： NPU linux 驱动开发
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/MHD0815/article/details/155303487

目录

一、常见 NPU 与主机的物理连接方式

1. 片上集成（SoC 内部互联）——最主流方式

2. PCIe 接口 —— 用于独立加速卡

3. USB / Ethernet（少见，仅用于调试或低速场景）

二、软件视角：主机如何“看到” NPU？

三、数据交互机制：CPU 与 NPU 如何协同工作？

1. 寄存器编程（MMIO）

2. 共享内存（Shared Memory）

3. 中断通知（Interrupt）

4. 命令队列（Command Queue）——高级模式

四、典型数据流示例（SoC 集成场景）

五、对驱动开发的意义

六、总结

在 AI 芯片系统中，NPU（Neural Processing Unit）与主机（Host CPU）的连接方式直接决定了数据传输效率、驱动设计复杂度和整体系统性能。下面从硬件接口、通信协议、内存共享和软件抽象四个层面为你系统梳理。

一、常见 NPU 与主机的物理连接方式

了解本专栏 订阅专栏 解锁全文 超级会员免费看
CPU ↔ NPU ↔ DSP 跨计算单元调度失败恢复机制实战详解：异构执行链路的故障检测与自愈体系构建
努力分享一些人工智能、计算机视觉、影像等相关的知识干货！
06-05 1275
在边缘端及终端设备上，AI 推理往往依赖 CPU、NPU、DSP 等异构计算单元协同完成。但在实际部署中，跨计算单元的任务调度极易因硬件资源争用、算子支持缺失、内存拷贝失败或执行异常而中断。本文基于2025年最新主流国产平台（如寒武纪、地平线、MediaTek APU、高通 Hexagon、UNISOC VDSP 等）真实部署实践，系统讲解 CPU ↔ NPU ↔ DSP 调度路径中各类失败的类型、触发机制与恢复策略，重点介绍执行路径的“自感知切换”与“回滚补偿机制”设计，提出一套统一的异构容错调度架构模板
如何通过CPU多核并行和GPU多核并行两种方式提升GPU的运算性能 Accelerating GPUs with Multithreading Programming
AI天才研究院
08-05 1939
GPU(Graphics Processing Unit)多核并行处理单元是当前科技领域里最热门的硬件之一。如今GPU已经集成在笔记本电脑、平板电脑、服务器和手机等各类设备中。由于其高性能的计算能力及其独特的编程模型（比如CUDA），使得GPU在科技界占有重要地位。同时，GPU的多线程编程技术也越来越受到关注。本文将从多线程编程的基本概念出发，介绍基于CUDA编程模型的多线程编程技术。然后，介绍如何通过CPU多核并行和GPU多核并行两种方式提升GPU的运算性能。
什么是NPU，怎么使用国产npu卡部署模型
keyboard专栏
09-28 747
摘要：NPU（神经网络处理器）是专为AI任务设计的加速芯片，如华为Ascend系列，相比GPU具有更低功耗。部署流程包括：1）安装NPU驱动和CANN工具链；2）适配PyTorch/MindSpore框架；3）下载模型权重；4）通过vLLM-Ascend或MindSpore插件启动推理服务；5）用npu-smi监控运行状态。整个过程实现国产芯片的高效AI模型部署。
深度学习篇---昇腾NPU&CANN 工具包
道阻且长，行则将至。
07-11 1432
摘要：华为昇腾NPU采用达芬奇架构，集成AICore计算单元、8MB L2Cache和混合指令集，提供高效AI计算能力。CANN工具包是昇腾AI处理器的异构计算架构，包含GE图引擎、AscendC算子语言等核心组件，支持主流AI框架并优化模型性能。在PyTorch中部署模型需安装CANN和PyTorch-NPU扩展，通过设备切换、混合精度等技术实现NPU加速，需注意数据类型兼容性和算子支持。该方案为AI应用提供了高性能计算平台。
华为OD机试：基于Ascend C语言的Kernel直调算子开发及CPU/NPU侧运行验证全流程解析
qq_38334677的博客
09-21 437
在华为OD机试和AI算子开发的实际项目中，掌握Kernel直调算子开发及其运行验证流程是必不可少的技能。通过本文的详细解析，我们从环境准备、算子实现、CPU/NPU侧运行验证等多个方面，对这一技术进行了深入探讨。通过CPU侧和NPU侧的运行验证，开发者可以确保算子的正确性与高效性，并在不同硬件平台上测试算子的性能表现。尤其是在华为的Ascend AI处理器上，利用AscendCL API与Kernel Launch接口，可以充分发挥NPU的计算能力，帮助开发者实现更高效的算子优化与调试。
【“星瑞” O6 评测】—NPU 部署 face parser 模型
怡宝2号
04-18 1105
瑞莎星睿 O6 (Radxa Orion O6) 拥有高达 28.8TOPs NPU (Neural Processing Unit) 算力，支持 INT4 / INT8 / INT16 / FP16 / BF16 和 TF32 类型的加速。这里通过通过官方的工具链进行的部署。
瑞芯微RK3562 四核 ARM Cortex-A53 + 单核 ARM Cortex-M0——NPU开发案列
创龙，嵌入式一体化解决方案商
04-15 251
本文主要介绍基于创龙科技TL3562-MiniEVM评估板的NPU开发案例，适用开发环境如下。
华为Ascend昇腾计算产业概述
热门推荐
IT菜鸟
07-11 1万+
[产品与解决方案介绍视频（渠道版）] 020101Atlas人工智能计算平台[彩页（客户版）] 华为Atlas人工智能计算解决方案产品彩页[营销物料] 人工智能创新应用优秀案例集昇腾官网AscendCL文档昇腾产品成长地图 华为昇腾系列芯片的系列名称。昇腾芯片上集成了AI CORE、AI CPU和CPU。其中，AI CORE负责大型Tensor Vector运算，AI CORE负责标量运算，CPU负责逻辑控制和任务分发。在昇腾310AI处理器（NPU）上，既有负责专用计算的Davinci Core，也有负
NPU协处理器无响应？硬件加速失效的故障隔离与驱动验证全流程指南
在高性能计算与AI推理场景中，NPU（Neural Processing Unit）协处理器的异常往往表现为**任务卡顿、响应超时、吞吐骤降**等表层现象。深入观察可发现，其背后常伴随内核日志中`NPU timeout`、`DMA stall`或`reset ...
Linux SSH配置密钥文件及免密登录
Tongyao
12-18 169
本文介绍了配置SSH免密登录的详细步骤：1）使用ssh-keygen生成RSA密钥对；2）将公钥加入authorized_keys文件；3）在A机器上传B机器私钥至.ssh目录；4）设置密钥权限为600；5）配置~/.ssh/config文件指定主机、用户和密钥路径；6）通过简化命令实现免密登录。整个过程强调了密钥权限设置的重要性，并提供了完整的配置示例。
Linux线上服务器掉电后无法启动故障的分析与修复实践——及其隐患解决（标准分区扩容、逻辑分区缩容与扩容）
CoffeMilk的博客
12-19 275
Linux服务器掉电后无法启动，错误显示根分区空间已满。通过系统救援模式分析，发现15G的swapfile文件占用过多空间。解决方案包括：1）以只读模式进入救援系统，修改为读写模式后删除大文件；2）通过LVM管理调整分区，将/home空间重新分配给根分区。文章详细介绍了标准分区和逻辑卷的扩容缩容操作步骤，包括卸载分区、调整大小、重新挂载等关键命令。同时指出系统分区设计不合理是根本原因，建议将/var和/log独立分区以避免未来再次出现空间不足问题。
Linux中的cd ~命令
tuokuac的博客
12-19 320
本文详细解析了Linux中的cd ~命令，从四个维度帮助用户掌握这一常用操作。核心功能是快速切换至当前用户的家目录，~符号会自动解析为对应路径。文章介绍了完全等价的命令（如单独使用cd或cd $HOME），并拓展了结合子目录和其他用户家目录的用法。特别提醒注意~与-的区别、权限问题及~的符号性质。总结强调该命令是日常操作中最便捷的目录切换方式，能避免手动输入长路径。全文以通俗示例和对比说明，帮助用户彻底理解这一基础但高频使用的命令。
【Linux】内网穿透（实操）/打洞
2401_83251330的博客
12-20 1654
我这里没有记录"，于是，直接将该报文丢弃了，这就是防火墙策略。现在B可以直接去找A：B到A小区保安处说“我找54321号保安亭的A”，保安查登记簿发现8765号保安亭的B在允许名单里，于是放行。利用一台具有公网IP的服务器作为“桥梁”或“中继站”，通过由内网设备主动发起的、持续的连接，在公网与内网之间建立一条虚拟的数据隧道，从而绕过NAT/防火墙的限制。最后，如何验证你的云服务器上的端口是否是可达的，可以被公网访问的，我们可以在cmd使用telnet，如果没有telnet,可以在powershell执行。
Linux 中安装 Miniconda
最新发布
m0_65788436的博客
12-23 220
在官网找到linux对应的下载命令,在根目录下运行下面的命令,下载即可。选择 Miniconda 的安装路径,输入回车,使用默认路径。是否更新您的 shell 配置文件以自动初始化 conda？此操作将在启动时激活 conda 并更改激活时的命令提示符。如果你选了 yes，以后你每次打开终端，最前面都会出现。字样，表示进入了 Conda 的基础环境。弹出是否接受协议,输入"yes",回车。弹出信息,继续按"Enter"如果你不希望 conda 的。根据提示,按"Enter"输入yes,回车,成功。
LInux cut 提取Git邮箱用户名命令解析
我的博客
12-23 182
这条命令用于。
Linux 进程控制
2401_87277188的博客
12-22 537
本章重点①：学习进程的创建，fork/vfork②：学习进程终止，认识$③：学习进程等待④：写一个微型的shell（单独列一章），重新认识shell运行原理。
MobaXterm 高效运维实战：从入门到进阶的 Linux 运维 “瑞士军刀” 用法
hy行者勇哥的博客
12-18 905
MobaXterm 作为 Linux 运维的 “全能工具包”，不仅集成了 SSH 终端、SFTP 文件传输、X11 图形转发等基础功能，更隐藏着批量执行、宏命令、会话分组等高级特性，能轻松解决新手常遇到的 “重复操作繁琐”“多服务器切换麻烦”“文件传输低效” 等痛点。本文用 “运维指挥中心” 的通俗比喻，拆解 MobaXterm 的核心架构，针对 Linux 运维中的高频问题，分享可直接上手的高级技巧与自动化脚本案例，帮助新手快速从 “手动跑腿” 升级为 “高效指挥”，大幅提升运维效率。
Linux---配置编程环境VSCode
2301_76762351的博客
12-23 120
一、下载VSCode注释：本篇文章基于Ubuntu环境下基于嵌入式开发操作；一、下载VSCode。
Linux shell中设置串口参数
luotuo28的博客
12-22 139
本文介绍了在Linux shell中配置串口参数的多种方法。主要使用stty命令设置波特率、数据位、校验位和流控制等基本参数，提供完整配置示例；通过setserial命令配置硬件参数；展示C程序调用ioctl系统调用的实现方式；以及Python中使用pyserial库的配置方法。文章包含详细的命令语法、常用参数设置和完整脚本示例，涵盖了从基本终端配置到编程接口的多种串口设置方案。
GPU和NPU（Neural Processing Unit）的损失对比，求画图代码
12-07
GPU（Graphics Processing Unit）和NPU（Neural Processing Unit）都是用于加速处理特定计算任务的硬件，其中NPU专为神经网络计算设计。两者对于深度学习训练和推理有着显著的不同性能。 1. **GPU**：传统的图形处理器主要用于渲染图像和游戏，其并行处理能力强大，适合大规模的数据并行计算，如卷积运算。然而，尽管GPU通过CUDA等技术可以扩展到一些机器学习任务，但它们并非专门为神经网络优化，效率上可能不如NPU。 2. **NPU**：NPU是针对深度学习特别是人工智能场景定制的，它集成了对神经网络操作的高效支持，比如矩阵乘法、激活函数等，能提供更高的算力密度和更优的能效比。NPU通常有更高的专用度和针对性优化，因此在处理深度学习模型时速度更快、能耗更低。 关于画图，这涉及到数据可视化库，比如Matplotlib或TensorBoard。如果你想要展示性能比较的饼图或者柱状图，可以用Python代码大致表示如下： ```python import matplotlib.pyplot as plt labels = ['GPU', 'NPU'] y_pos = [0.8, 1] # 假设NPU性能是GPU的1.8倍 performance = y_pos plt.bar(labels, performance, color=['blue', 'green']) plt.xlabel('Hardware') plt.ylabel('Performance (Relative)') plt.title('GPU vs NPU Performance Comparison') plt.xticks(rotation=45) plt.show() ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小蘑菇二号

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值