NPU的设计逻辑

原创 已于 2022-09-29 11:11:23 修改 · 1.5k 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #fpga开发 #神经网络

于 2021-12-20 17:21:00 首次发布
本文探讨了NPU（神经处理单元）的设计，其数学模型基于高维空间坐标向量的仿射变换。内容涉及IP核心的可配置参数，如位宽、层数和神经元数，并详细阐述了权重内存地址宽度的计算方法。文章还提到了权重内存的访问策略，以及神经网络结构的基本原理。OpenC906社区的专家提供了有关设计思路的解答。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

NPU设计的数学模型比较简单，可以看成是对高维空间坐标向量进行一次仿射变换，公式如下图中的样子：

这份ANN IP实现包含两个部分，ANN 核心实现和ANN封装实现，封装实现的作用是可以将ANN的核心实现逻辑与不同的SOC系统总线对接，当前有实现和AXI4对接的wrapper实现。

 IP核心是可以通过参数进行配置的，包括位宽，层数，输入维度，以及各层的神经元数，根据输入和输出并行、串行方式的不同，可以将各层分为三种类型，分别是"SP","PS","PP",当前的实现还不支持PP。当前的实现，数据操作是按照定点格式进行，目的是为了在有限的IP面积上使性能最大化。

可配置参数如下表所示：

 输入层适合SP，输出层适合PS

最低0.47元/天 解锁文章

200万优质内容无限畅学
【芯片设计】NPU芯片前端设计工程师面试记录·20250227
moon9999的博客
02-27 785
某NPU/CPU方向芯片设计公司
国产NPU芯片中的模型编译器设计与算子图优化路径
qq_40552871的博客
04-15 747
国产 NPU 芯片的发展历程可以追溯到 21 世纪初，随着国内对人工智能技术的重视以及半导体产业的逐步发展，相关研究和开发工作开始起步。早期，国内的 NPU 芯片研发主要集中在高校和科研机构，以探索人工智能算法的硬件加速为主要目标。例如，清华大学在 2005 年左右就开始了相关研究，其研究成果为后续国产 NPU 芯片的发展奠定了理论基础。2010 年以后，随着国内半导体产业的逐步成熟以及人工智能技术的快速发展，一些企业开始涉足 NPU 芯片领域。
NPU架构分析与应用
吴建明wujianming_110117
08-11 5396
NPU架构分析与应用
FMS2015：Instruction-Based NPU设计
Memblaze
08-24 1069
大部分闪存控制器的架构是硬件控制器架构，这种架构性能比较高，芯片的成本比较低，但是不能很好的兼容多种类型的NAND。软件控制器方案则在灵活性上有非常大的优势，能够支持不同种类的NAND。但是由于代码有冗余，实现成本较高。综合起来看，闪存控制器的设计需要在软件方案和硬件方案之间取得一个平衡。
NPU、GPU、CPU 的核心区别及介绍
hao_wujing的专栏
05-13 1191
NPU、GPU和CPU是计算机中用于执行不同类型计算任务的三种主要处理器。CPU作为通用处理器，负责系统级任务调度和逻辑处理，适合处理复杂的串行任务。GPU最初用于图形渲染，现广泛应用于大规模并行计算，如深度学习和科学计算。NPU专为人工智能设计，优化神经网络计算，适合低功耗的AI推理任务。三者在设计、功能和应用场景上各有优势：CPU适合通用计算，GPU适合高吞吐量计算，NPU则专为AI任务优化。在实际应用中，开发者可以根据任务需求选择合适的处理器，并通过Python等编程语言调用相应资源进行优化。
从0开始设计神经网络处理器NPU
代码-诗和远方
06-03 1409
从0开始设计AI加速芯片
探索高效能计算：NPU设计项目介绍
gitblog_01190的博客
08-08 991
探索高效能计算：NPU设计项目介绍 项目介绍 NPU设计项目是一个在FPGA上实现神经处理单元（NPU）的开源项目，旨在提供一个高效、灵活的计算平台，支持多种矩阵运算、图像处理运算以及非线性映射。该项目通过Python和FPGA的结合，使得用户能够在硬件层面上实现复杂的神经网络计算，如小型CNN（卷积神经网络）和RNN（循环神经网络）。 项目技术分析 开发环境 项目采用了多种先进的开发工具和平台，...
NPU_RTI结构设计
weixin_30681615的博客
10-22 329
　　NPU-RTI软件设计由RTI执行进程(RtiExec)、联邦执行进程(FedExec)和RTI库(libRTI)三部分组成。如下图所示，每一联邦成员将链接libRTI库。 　　RtiExec是一个全局进程，其主要作用是与FedExec进行通信，引导成员加入正确的联邦执行，完成消息交换。每一个FedExe进程管理一个联邦成员加入和退出联邦，并辅助加入的成员实现数据交换、时间推进和其它联邦...
基于Volcano增强华为NPU亲和性调度的ascend-for-volcano设计源码
09-26
华为NPU（神经网络处理单元）是专为AI计算设计的硬件加速器，它可以显著提高AI模型的计算效率和处理速度。随着AI技术的快速发展，对于计算资源的调度和管理提出了更高的要求。Volcano是业界广泛使用的Kubernetes原生...
CPU,GPU,NPU的架构差异对比
tugouxp的专栏
07-11 1万+
有价值的脑力劳动永远比单调枯燥乏味的体力劳动更能产生价值，所以，或许有一天，算力的最终形态的载体可能不是NPU，GPU甚至是CPU，但是，那个烙印在算力载体上的最深刻的基因，一定是来自于CPU的。从设计角度，传统处理器为减少每个核心上顺序代码的执行时间而优化，从而增加每个内核的复杂性是以提供功更少的核心为代价的，传统的处理器通常使用复杂的控制逻辑和大的缓存处理器，目的为了有效的处理条件分支，流水线STALL，数据局部性差的问题。支持顺序，循环，分支选择三种执行流，所以图灵完备，NPU显然不是。
AI芯片：寒武纪NPU设计分析（DianNao）
热门推荐
evolone的专栏
06-22 2万+
国内人工智能处理器独角兽寒武纪，在这个领域，算是走在了世界前沿，经过最近几年的迅猛发展，取得了辉煌的成果。 最近花了些时间研究了下寒武纪发表的一系列论文中介绍的NPU的结构。 记录下来，算是对最近学习内容的总结。 寒武纪从2014年开始，发表了一系列的论文，本文仅分析其中几篇： （1）DianNao: A Small-Footprint High-Throughput Accelerato...
从代码设计到应用开发，入坑深度学习看这本书就够了
Python大本营的博客
06-22 403
深度学习（Deep Learning）是机器学习中一种基于对数据进行表征学习的方法。近年来，深度学习已经在科技界、工业界日益广泛地应用。随着全球各领域多样化数据的极速积累...
基于 NPU/DSP 的图像模型推理框架：SNPE、APU 与 Neural Engine 实战解析
最新发布
努力分享一些人工智能、计算机视觉、影像等相关的知识干货！
07-03 837
在移动影像系统中，AI 图像算法的实时部署依赖于 NPU/DSP 等专用异构计算单元的高效调度。为充分发挥芯片能力，不同平台推出了各自的推理框架，如高通的 SNPE、联发科的 APU Toolchain，以及 Apple 的 Neural Engine 管理体系。本文结合多款 SoC 芯片的实战部署经验，系统解析上述三种主流推理框架的核心架构、部署流程、模型适配路径与工程调优策略，帮助开发者理解异构计算背后的图像推理机制，提升图像模型在端侧落地的性能与稳定性。
全志V853 NPU开发（四）模型部署
weixin_42904656的博客
11-23 2766
全志V853 NPU开发，模型部署
神经处理单元（NPU）在人工智能加速中的应用
weixin_66608063的博客
10-31 1517
NPU通过专门的指令集和紧凑的电路设计，可以在保持高性能的同时显著降低功耗，延长设备的续航时间。此外，NPU还具有高度可定制化的特点，可以根据具体应用的需求进行定制，提供更大的灵活性和适应性。例如，一些NPU支持神经网络模型的压缩和蒸馏技术，可以减小模型的尺寸和复杂度，提高计算效率和存储效果。另外，NPU的使用还面临着算法和硬件的紧密配合以及软件开发工具的支持等问题。随着人工智能的发展和进一步的技术创新，我们可以期待NPU在未来的应用中发挥更大的作用，并推动人工智能技术的进一步进步和应用的扩展。
【AI系统】NPU 基础
ZOMI酱
11-22 3260
AI 芯片是专门为加速 AI 应用中的大量针对矩阵计算任务而设计的处理器或计算模块。与传统的通用芯片如中央处理器（CPU）不同，AI 芯片采用针对特定领域优化的体系结构（Domain-Specific Architecture，DSA），侧重于提升执行 AI 算法所需的专用计算性能。如下图所示的就是一个典型的 AI 芯片架构，我们假设所有场景围绕应用，那么其周围的例如解码芯片（如图中黄色部分 RSU）、FPGA 芯片（如图中粉色部分）等都是属于针对特定领域优化的芯片结构。
开源深度学习加速器(NPU)NVDLA介绍
tugouxp的专栏
01-25 1万+
看来NPU的做法和思路和CPU不同，CPU设计上无论冯诺伊曼还是哈弗架构，都有统一而且标准的设计规范，并且ISA和微架构之间可以分开设计。NPU则不同，它的ISA和微架构没有分开，绑的比较紧，个人认为这种状态并非出于技术上的原因，而且因为为了符合各个vendor的设计思想和优化策略，NPU的ISA设计和微架构设计通常都是私有，并由一家独立完成，这样做虽然给厂商以性能优化的名义逐代提升性能提供了很好的理由，但是带来的生态隔离，模型不兼容也是产业界的一大痛点。NPU也是一个处理器，但是没有统一的设计标准的。
NPU的发展概况
CHAO_bismarck的博客
08-08 1万+
NPU的发展概况 声明：本文章为作者结课拓展小论文，仅供参考，欢迎批评指正。 摘要：NPU作为一种主要采用ASIC技术的专用嵌入式神经网络芯片通过硬件模拟神经网络的方式克服了CPU、GPU在深度学习中设计上的先天不足，大大提高了深度学习芯片的运算速度。2014年寒武纪DianNao系列论文开启了专用人工智能芯片NPU架构设计的先河，直接催生了寒武纪系列NPU，一定程度上引领了华为达芬奇架构NPU、阿里“含光”、谷歌TPU等的出现。尽管现今主要的NPU只集中在推理芯片领域，但已经撼动了GPU人工智能领域的地位
NPU UMD架构设计需要掌握哪些技术栈
05-09
### NPU UMD 架构设计相关技术栈和技能要求 NPU（Neural Processing Unit）是一种专门用于加速神经网络计算的硬件单元，而UMD（Unified Memory Design）则涉及统一内存的设计理念。以下是关于NPU UMD架构设计所需的技术栈以及对应的技能要求： #### 技术栈概述 1. **硬件描述语言 (HDL)** 设计NPU的核心部分通常需要用到Verilog或VHDL来实现RTL级建模[^1]。这些工具能够帮助工程师定义芯片的功能逻辑。 2. **EDA 工具** 使用电子设计自动化(EDA)软件完成从概念到物理布局的过程至关重要。常用的工具有Synopsys、Cadence 和Mentor Graphics的产品线[^2]。 3. **处理器微体系结构知识** 对于任何类型的专用处理器开发来说，深入理解现代CPU/GPU 的流水线机制、缓存策略及其优化方法都是必不可少的基础[^3]。 4. **AI框架支持能力** 能够适配主流深度学习框架如TensorFlow, PyTorch等，并提供高效的算子映射方案以充分利用底层硬件资源[^4]。 5. **并行编程模型** 掌握OpenCL,CUDA或者类似的异构计算接口标准对于编写高效的应用程序非常重要[^5]。 6. **低功耗设计理念** 鉴于移动设备对能效比的要求日益提高，在整个生命周期内考虑节能措施变得尤为关键[^6]。 7. **验证与测试流程管理** 建立全面的功能性和性能回归测试套件可以有效降低后期修改成本；同时还需要熟悉形式化验证手段提升覆盖率水平[^7]。 8. **操作系统驱动开发经验** 开发针对特定平台的操作系统内核模块及用户空间API以便更好地控制定制化的硬件组件行为模式[^8]。 9. **编译器原理掌握程度** 自动化生成目标机器码的能力直接影响最终产品的灵活性表现，因此精通LLVM IR等相关理论有助于构建更优解法路径[^9]。 #### 技能要求分析 - **算法工程背景**: 熟悉常见数据结构与经典算法可以帮助解决复杂场景下的效率瓶颈问题。 - **数学基础扎实**: 特别是在统计学概率论方面有较强的理解力会极大促进新特性探索进程。 - **跨学科协作意识**: 成功项目往往依赖多个领域专家共同努力成果呈现出来，所以良好的沟通技巧同样不可或缺。 - **持续学习态度**: AI技术日新月异变化迅速，保持好奇心主动跟进前沿动态才能始终站在行业前端位置。 ```python # 示例代码展示如何通过Python模拟简单的矩阵乘法操作作为基本训练任务之一 import numpy as np def matrix_multiply(a,b): return np.dot(a,b) if __name__ == "__main__": A = [[1, 2], [3, 4]] B = [[5, 6], [7, 8]] C = matrix_multiply(A,B) print(C) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

papaofdoudou

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值