NPU、CPU、GPU算力定义和计算方式

最新推荐文章于 2025-11-09 16:00:00 发布
原创 最新推荐文章于 2025-11-09 16:00:00 发布 · 7.3k 阅读 · 28 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#gpu算力

NVIDIA在9月20日发布的NVIDIA DRIVE Thor 新一代集中式车载计算平台，可在单个安全、可靠的系统上运行高级驾驶员辅助应用和车载信息娱乐应用。提供 2000 万亿次浮点运算性能（2000 万亿次8位浮点运算）。NVIDIA当代产品是Orin，算力是256 TOPS。再后面是已发布的Altan，算力是1000TFLOPS，这次的Thor算力是2000 TOPS强大的着实让人震惊（但是芯片2025才出来，是时间好像有些远的PPT产品）。

产生一个疑问，这个算力是什么算力？如何计算/标定？

先看三个名词解释：

TFLOPS（teraFLOPS）等于每秒一万亿（=10^12）次的浮点运算。FLOPS（Floating-point operations per second的缩写），即每秒浮点运算次数。
TOPS（Tera Operations Per Second的缩写），1TOPS代表处理器每秒钟可进行一万亿次（10^12）操作。
DMIPS：Dhrystone Million Instructions executed Per Second，每秒执行百万条指令，用来计算同一秒内系统的处理能力，即每秒执行了多少百万条指令。

鉴于NVIDIA的Thor还是个PPT，还没有确切产品资料情况下，我们先看下现有芯片的此种算力。特斯拉FSD（自动驾驶的芯片/区别于智能座舱SOC）。

（

TFLOPS（Tera Floating Point Operations Per Second）和 TOPS（Tera Operations Per Second）是两种衡量计算性能的单位：

TFLOPS：TFLOPS是每秒执行的万亿次浮点运算。这是衡量计算性能的传统方式，尤其用于需要大量浮点计算的任务，如图形处理和科学计算。
TOPS：TOPS是每秒执行的万亿次运算。这个术语更常用于衡量AI和机器学习硬件的性能，因为这些任务通常包括大量的整数和固定点运算，而不是传统的浮点运算。 TOPS特别适用于评估深度学习推理任务的性能。
总的来说，TFLOPS更多地关注浮点运算性能，而TOPS则涵盖了更广泛的运算类型，更适用于AI和深度学习应

最低0.47元/天 解锁文章
linan101
关注
SoC 内的 CPU、GPU、DSP、NPU 协同执行结构图解析：多异构协同的最新实战体系
努力分享一些人工智能、计算机视觉、影像等相关的知识干货！
05-26 3810
随着移动端 AI 能力迅速演进，SoC（System on Chip）内部的多种异构计算单元（CPU、GPU、DSP、NPU）之间的协同执行能力成为衡量芯片智能算力的关键指标。本文基于截至 2025 年 5 月最新主流国产芯片（如海思昇腾、地平线旭日、联发科天玑、高通骁龙 8 Gen 系、寒武纪思元等）在实际落地应用中的公开结构与技术资料，深入解析 CPU-GPU-DSP-NPU 协同执行的体系结构、执行路径与调度逻辑。文章结合 Android NNAPI、Vulkan Compute、自定义调度器等工程实
【Python基础】13 知识拓展：CPU、GPU与NPU的区别和联系
nmdbbzcl的博客
07-01 379
在这个多元化的计算世界中，CPU、GPU、NPU各自扮演着不可替代的角色。CPU如同指挥家，协调整个系统的运行；GPU如同交响乐团，发挥集体的力量；NPU如同专业的独奏家，在特定领域展现卓越的表现。作为Python开发者，我们有幸站在这个技术变革的前沿。根据任务特性选择合适的硬件：复杂逻辑用CPU，并行计算用GPU，AI推理用NPU充分利用Python的丰富生态：从NumPy到CuPy，从PyTorch到ONNX Runtime拥抱异构计算的未来：设计能够自动适配不同硬件的灵活架构持续关注技术发展。
如何评估计算机的算力：从 CPU 到 GPU 的演变
github_36774378的博客
08-25 2226
这就是 CPU 和 GPU 在计算能力上的区别，这是由它们的架构决定的，CPU 可以执行任何程序，而 GPU转为多任务而生，并发能力强。当然，上面的两张图并不是说 GPU 比 CPU 厉害，事实上，CPU 和 GPU 各自具有不同的特点和优势，选择哪种设备取决于具体的应用场景和需求。其中，CPU（中央处理器）和 GPU（图形处理器）是计算机中最为核心的两个组件，它们的算力和性能对于计算机的整体性能具有决定性的影响。CPU 是计算机的核心组件之一，它的主要功能是执行指令、控制计算机的运行和处理数据等任务。
NPU架构与算力分析
吴建明wujianming_110117
08-10 7519
NPU架构与算力分析
CPU、GPU、NPU 到底怎么分工？一图看懂现代算力三驾马车
最新发布
努力分享一些人工智能、计算机视觉、影像等相关的知识干货！
11-09 4026
这篇文章用一张系统结构图，把三者在 SoC / 服务器里的位置和职责讲清楚，再从**架构视角**梳理： 谁负责“算”、谁负责“管”、谁负责“省电”，以及它们如何协同跑完一次 AI 任务。
NPU、CPU、GPU算力及算力计算方式_npu 130
2401_87555719的博客
11-10 2454
三星将ARM Cortex-A76内核优化后叫Kryo内核，还有硬件加速器等，猜想是三星对A76的性能优化已超50%性能提升，已到达ARM架构师Filippo（上面说的）所描述的50%-70%性能提升的中位数。特斯拉资料中，该芯片的目标是自主4级和5级。FSD芯片采用三星（德克萨斯州奥斯汀的工厂）的14纳米工艺技术制造，集成了3个四核Cortex-A72集群，共有12个CPU，工作频率为2.2GHz，1个(ARM的)Mali G71 MP12 GPU，2个NPU工作频率为2GHz，还有其他各种硬件加速器。
NPU、CPU、GPU算力及算力计算方式
joanna_xiao的博客
11-21 1万+
再后面是已发布的Altan，算力是1000TFLOPS，这次的Thor算力是2000 TOPS强大的着实让人震惊（但是芯片2025才出来，是时间好像有些远的PPT产品）。FSD芯片采用三星（德克萨斯州奥斯汀的工厂）的14纳米工艺技术制造，集成了3个四核Cortex-A72集群，共有12个CPU，工作频率为2.2GHz，1个(ARM的)Mali G71 MP12 GPU，2个NPU工作频率为2GHz，还有其他各种硬件加速器。同时也引入了更复杂的AI模型（NVIDIA大致每2年的产品都会有一个质的提升）。
算力的计算公式
sunqi1237的专栏
06-05 1万+
FLOPS（Floating Point Operations per Second）：在浮点运算的场景下，算力可以使用FLOPS来衡量。需要注意的是，不同领域和应用场景下的算力计算可能存在差异，而且具体的计算公式也可能因硬件设备、软件算法等因素而有所不同。因此，在具体应用中，建议参考相关文档、标准或者硬件/软件提供商的说明来获取更准确的算力计算方法。TP（Transactions per Second）：在区块链和数据库领域，算力可以通过每秒处理的交易数量（TPS）来衡量。
《NPU、CPU、GPU 算力定义和计算方式》
weixin_47266126的博客
11-12 2616
在实际应用中，需要根据不同的计算任务和需求选择合适的处理器，以充分发挥它们的优势，提高计算效率和性能。随着人工智能技术的不断发展，NPU 的应用前景将会越来越广阔，同时，CPU 和 GPU 也将不断优化和升级，以满足不同领域的计算需求。不同类型的处理器，如中央处理器（CPU）、图形处理器（GPU）和神经网络处理器（NPU），在算力方面有着各自的特点和优势。图形处理器（GPU）最初是为了处理图形渲染任务而设计的，但随着技术的发展，GPU 也被广泛应用于科学计算、人工智能等领域。（二）GPU 的应用场景。
在iOS中调用GPU算力：加速你的应用性能
Myqijiahai的博客
02-24 1092
通过本文的介绍，你已经了解了如何在iOS应用中调用GPU算力的基本方法。无论是使用Metal框架进行通用计算，还是通过Core ML加速机器学习模型的推理，iOS设备上的GPU都能为开发者提供强大的计算能力。通过优化计算密集型任务，开发者不仅可以提升应用性能，还可以优化用户体验并延长设备的电池续航时间。
大模型 | 一文让你彻底了解算力到底是如何计算出来的-算力的计算方法（CPU和GPU）
m0_56255097的博客
12-13 1万+
很多人看到GPU参数表的时候，一直不明白表上的GPU算力数据大小到底是如何计算出来的？又为什么还有FP64和FP32不一样的表述。CPU单周期双精度浮点计算能力=2（FMA单元数）*2(M/A同时计算乘法和加法）*512bit（指令长度）/=32CPU单周期单精度浮点计算能力=2（FMA单元数）*2(M/A同时计算乘法和加法）*512bit（指令长度）/=64以英特尔6348 CPU（即：英特尔® 至强® Gold 6348处理器，28c，2.60 GHz）为例，支持AVX512指令集，且FMA系数=2。
npu算力如何计算_CPU、GPU、NPU、FPGA等芯片架构特点分析
weixin_40003780的博客
11-30 9410
来源| 汽车电子与软件知圈 |进“高精度地图社群”，请加微信15221054164，备注地图概述随着人工智能的热潮和AI算法的广泛应用，深度学习已成为当前AI研究的重点，在自动驾驶领域，环境感知、传感器融合、控制决策等等都会多少涉及到深度学习，而自动驾驶性能的优劣直接和AI算法相关，说白了就是深度学习算法的优劣。要想在面对海量数据的并行运算的同时做到高效、可靠，那就意味着承载AI算法...
CPU、GPU算力计算
weixin_44577224的博客
02-28 1万+
最直观的理解就是，向量计算。比如一个加法指令周期只能算一组数（一维向量相加），使用SIMD的话，一个加法指令周期可以同时算多组数（n维向量相加），二者用时基本相等，极大地提高了运算效率。FMA的全称为Fused Multiply–accumulate operation, 也就是乘积累加指令，这种指令集融合了加法和乘法，使得处理器能够在一个指令中同时完成乘法和加法操作，从而提高了计算效率。单精度和双精度浮点运算概念，简单的理解单精度就是指32bit的指令长度的运算，对应操作系统就是32位操作系统；
FLOPS、TOPS和FLOPs的区别
热门推荐
机器学习-深度学习-图像处理-opencv-段子
05-07 5万+
FLOPS，即每秒浮点运算次数, 是每秒所执行的浮点运算次数（Floating-point operations per second；缩写：FLOPS）的简称，被用来评估电脑效能. FLOPs：注意s小写，是floating point operations的缩写（s表复数），意指浮点运算数，理解为计算量, 可以用来衡量算法/模型的复杂度。 常用框架的复杂度 TOPS(Tera Operatio...
深入了解浮点运算——CPU 和 GPU 算力是如何计算的
4G/5G随身WiFi专业DIY改装
02-27 5550
浮点运算是计算机领域中的一种基础运算方式，用于进行实数的近似计算。浮点数由两个主要部分组成：尾数和指数。尾数表示实数的数值，而指数表示实数与基数之间的位移量。在计算机中，浮点数以二进制形式表示，通过尾数位和指数位来进行存储和计算。浮点数的存储方式可以分为单精度和双精度，分别占用32位和64位。浮点数的计算涉及到加法、减法、乘法、除法等基本运算，以及特殊运算如开方和求余等。了解浮点数的基础知识对于理解CPU和GPU的算力计算过程十分重要。
深度学习CPU，GPU，NPU，TPU以及其计算能力单位
u010451780的专栏
03-07 1万+
处理器运算能力单位 TOPS是Tera Operations Per Second的缩写，1TOPS代表处理器每秒钟可进行一万亿次（10^12）操作。 与此对应的还有GOPS（Giga Operations Per Second），MOPS（Million Operation Per Second）算力单位。1GOPS代表处理器每秒钟可进行一亿次（10^9）操作，1MOPS代表处理器每秒钟可进...
npu算力如何计算_平民板皇RPI N10问世，集成了NPU，低价超乎你想象
weixin_39639643的博客
11-07 1337
大家好，我是人见人爱的小月月，去年已经给大家种草过瑞芯微RK3399和RK3399Pro。RK3399Pro对AI计算的应用场景做了特别设计。虽然RK3399Pro的CPU部分与RK3399一样，但多了一个神经处理单元(NPU)，其中NPU的算力高达3 TOPs。过去也有不少厂家发布了基于RK3399Pro的板子，如Pine64 RockPro64 AI或Khadas Edge board，但目前...
cpu算力计算
qq_38595432的博客
12-21 6110
CPU的算力与CPU的核心的个数，核心的频率，核心单时钟周期的能力三个因素有关系 常用双精度浮点运算能力衡量CPU的科学计算的能力，就是处理64bit小数点浮动数据的能力 支持AVX2的处理器在1个核心1个时钟周期可以执行16次浮点运算，也称为16FLOPs CPU的算力=核心的个数 x 核心的频率 x 16FLOPs 支持AVX512的处理器在1个核心1个时钟周期可以执行32次浮点运算，也称为32FLOPs CPU的算力=核心的个数 x 核心的频率 x 32FLOPs avx2或者avx512在linux
大白话解释GPU的算力是怎么算出来的？
了不起的云计算
05-13 1534
特别适合在人工智能领域，因为许多人工智能任务，如推理和图像识别，依赖于高效的整数运算，TOPS的高低反映了处理器在处理这些任务时的能力。CUDA核心数：指的是每个GPU中的CUDA（Compute Unified Device Architecture）核心数量，它反映了GPU的计算单元数量，是决定算力的重要因素之一。TFLOPS：中文翻译“万亿次浮点运算每秒”，浮点运算就是计算机做小数运算的一种方式，在很多复杂的计算任务中，比如科学研究、图形渲染、人工智能训练等，都需要进行大量的小数运算。
cpu gpu npu在底层架构有什么区别？
08-14
### CPU、GPU、NPU 底层架构区别 #### 1. CPU 架构特点 CPU（中央处理器）是一种通用处理器，其底层架构设计以灵活性和通用性为核心目标。CPU 包含少量核心，每个核心具有复杂的控制逻辑和较大的缓存，能够高效地处理顺序执行的任务和复杂指令流。这种设计使得 CPU 能够胜任多任务调度、分支预测和操作系统管理等复杂计算任务。CPU 的指令集架构（如 x86 和 ARM）支持丰富的指令类型，使其能够适应广泛的应用场景[^1]。 #### 2. GPU 架构特点 GPU（图形处理器）是一种面向并行计算的专用硬件，其底层架构主要由大量的简单计算核心（流处理器）组成。这些核心被组织成多个计算单元（如 CUDA 核心），通过大规模并行执行机制处理数据密集型任务。GPU 的架构特别适合执行具有高度数据并行性的计算任务，例如矩阵运算和图像处理。此外，GPU 的内存带宽远高于 CPU，能够支持高速数据传输，使其在深度学习模型的训练和推理中表现出色[^1]。 #### 3. NPU 架构特点 NPU（神经网络处理器）是一种专门为神经网络计算优化的处理器，其底层架构设计围绕神经网络算法的特性展开。NPU 采用细粒度可重构的硬件架构（CGRA），能够通过软件定义的方式动态调整硬件逻辑单元的运算和互联方式。这种架构支持细颗粒度的配置，使得 NPU 能够灵活适应不同类型的神经网络模型。NPU 的设计还注重能耗效率，通过降低计算资源需求、逼近计算策略、压缩与稀疏计算策略以及模型-硬件联合搜索等方法，提升算力效率和能耗比。此外，NPU 的架构演进受到软件定义架构和弹性负载均衡理念的影响，能够实现底层硬件的可配置性、可调度性和可扩展性，同时优化数据流和计算效率[^2]。 #### 4. FPGA 与 ASIC 的对比 虽然 FPGA（现场可编程门阵列）和 ASIC（专用集成电路）不属于本题讨论的核心范围，但它们与 CPU、GPU、NPU 的底层架构区别值得提及。FPGA 采用硬件描述语言开发，其底层架构由可编程逻辑块和互连资源组成，能够实现高度定制化的硬件功能。这种设计使 FPGA 在灵活性和性能之间取得了平衡，但开发门槛较高。ASIC 则是针对特定应用设计的硬件，其底层架构完全固定，因此在性能和能效方面具有显著优势，但灵活性较差。与 FPGA 和 ASIC 相比，CPU、GPU 和 NPU 的架构设计更注重通用性、可编程性和能效的平衡[^1]。 #### 5. 性能与能效对比 从性能和能效的角度来看，CPU 以其通用性见长，但能效较低；GPU 在并行计算任务中表现出色，但在能耗方面不如 NPU；而 NPU 针对神经网络计算进行了深度优化，能够在保持高性能的同时显著降低能耗。这种差异主要源于三者底层架构的设计目标不同：CPU 设计以灵活性为核心，GPU 设计以并行性为核心，而 NPU 设计以能效和专用性为核心。 #### 6. 编程模型与开发难度 CPU 的编程模型基于通用指令集架构（如 x86 和 ARM），开发者可以直接使用高级语言（如 C/C++）进行编程，开发难度较低。GPU 的编程模型（如 CUDA 和 OpenCL）需要开发者对并行计算有深入理解，开发难度较高。NPU 的编程模型则更加复杂，需要结合硬件架构特性进行优化，例如通过配置数据比特流来调整硬件逻辑单元的运算和互联方式。这种设计使得 NPU 的开发门槛较高，但同时也为其提供了更高的灵活性和性能潜力[^2]。 ### 示例代码：GPU 与 NPU 的计算任务分配 以下是一个简单的示例，展示了如何在 GPU 和 NPU 之间分配计算任务： ```cpp #include <iostream> #include <vector> // 模拟 GPU 执行矩阵加法 void gpuMatrixAdd(const std::vector<std::vector<int>>& A, const std::vector<std::vector<int>>& B, std::vector<std::vector<int>>& C) { for (size_t i = 0; i < A.size(); ++i) { for (size_t j = 0; j < A[0].size(); ++j) { C[i][j] = A[i][j] + B[i][j]; } } } // 模拟 NPU 执行神经网络卷积操作 void npuConvolution(const std::vector<std::vector<int>>& input, const std::vector<std::vector<int>>& kernel, std::vector<std::vector<int>>& output) { // 简化卷积操作 for (size_t i = 0; i < output.size(); ++i) { for (size_t j = 0; j < output[0].size(); ++j) { output[i][j] = input[i][j] * kernel[0][0] + input[i][j+1] * kernel[0][1] + input[i+1][j] * kernel[1][0] + input[i+1][j+1] * kernel[1][1]; } } } int main() { // 初始化数据 std::vector<std::vector<int>> A = {{1, 2}, {3, 4}}; std::vector<std::vector<int>> B = {{5, 6}, {7, 8}}; std::vector<std::vector<int>> C(2, std::vector<int>(2)); std::vector<std::vector<int>> input = {{1, 2, 3}, {4, 5, 6}, {7, 8, 9}}; std::vector<std::vector<int>> kernel = {{1, 0}, {0, -1}}; std::vector<std::vector<int>> output(2, std::vector<int>(2)); // 分配任务给 GPU 和 NPU gpuMatrixAdd(A, B, C); npuConvolution(input, kernel, output); // 输出结果 std::cout << "GPU Matrix Addition Result:" << std::endl; for (const auto& row : C) { for (int val : row) { std::cout << val << " "; } std::cout << std::endl; } std::cout << "NPU Convolution Result:" << std::endl; for (const auto& row : output) { for (int val : row) { std::cout << val << " "; } std::cout << std::endl; } return 0; } ``` ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值