GPGPU设计读书笔记——第一章 概述

最新推荐文章于 2025-12-04 09:49:16 发布
原创 最新推荐文章于 2025-12-04 09:49:16 发布 · 348 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#gpu算力 #笔记

GPGPU读书笔记

第一章 GPGPU概述

  1. 并行计算机：处理单元的集合、通信和协作。

  2. 并行体系结构

    SISDSIMDMISDMIMD
    并行层级指令级并行 ILP
    代表单核CPUGPUTPU多核CPU
    主要结构流水线高速I/O和大容量存储

    并行层级：指令级并行→多线程和多核并行→多计算机并行→仓储级计算机

  3. CPU与GPU

    1. CPU：通用性强，处理不同的数据类型，支持复杂的控制指令，故微架构复杂性高，多核
    2. GPU：针对图形处理领域，即大量同类型数据计算，众核

在这里插入图片描述
CPU

在这里插入图片描述
GPU

  1. 图形处理任务——GPU如何将三维立体模型转化为屏幕上的二维图像

    在这里插入图片描述

    • 输入阶段：应用程序使用3D API（OpenGL和Direct3D）将信息从主存储器传输到GPU设备端存储器中
    • 顶点处理、几何处理、光栅化、像素处理和输出合并
【GPGPU编程模型与架构原理】第一章 1.2 GPGPU 发展概述
金金金金金的博客
11-14 1731
随着半导体工艺水平不断提高和计算机体系结构设计的不断创新，GPU快速发展，从传统图形图像相关的三维图形渲染专用加速器拓展到多种应用领域，形成通用的图形处理器。
深度学习笔记其六：现代卷积神经网络和PYTORCH
泠山的博客
09-04 2284
上一章我们介绍了卷积神经网络的基本原理，本章我们将带你了解现代的卷积神经网络架构，许多现代卷积神经网络的研究都是建立在这一章的基础上的。在本章中的每一个模型都曾一度占据主导地位，其中许多模型都是ImageNet竞赛的优胜者。ImageNet竞赛自2010年以来，一直是计算机视觉中监督学习进展的指向标。1×1虽然深度神经网络的概念非常简单——将神经网络堆叠在一起。但由于不同的网络架构和超参数选择，这些神经网络的性能会发生很大变化。
编程书籍大全
06-02 4170
MFC程序开发参考大全USB应用开发技术大全HTML参考大全Java范例开发大全Java开发技术大全Java 2参考大全Java Web开发典型模块大全Java Web开发技术大全精通Java Web整合开发Java 2游戏设计Java游戏编程Java Web开发实战1200例Java Web 2.0架构开发与项目实战开发者突击Java Web 开发详解 XML+XSLT+Servlet+JS...
计算机编程书籍大全
浮生未歇的博客
04-09 6014
MFC程序开发参考大全 USB应用开发技术大全 HTML参考大全 Java范例开发大全 Java开发技术大全 Java 2参考大全 Java Web开发典型模块大全 Java Web开发技术大全 精通Java Web整合开发 Java 2游戏设计 Java游戏编程 Java Web开发实战1200例 Java Web 2.0架构开发与项目实战 开发者突击 Java We
Python深度学习：从入门到精通
YunWisdom
07-21 1909
亲爱的读者，欢迎您翻开这本书。我们即将探索的，是深度学习的宇宙——一个由数据、算法与算力构筑的奇妙世界。它既是严谨的科学，也是创造的艺术，更是一条通往未来智慧的修行之路。本书将带您从最基础的数学原理出发，亲手搭建神经网络，驾驭Transformer等前沿模型，最终将智慧转化为现实世界的价值。请放下畏惧，保持好奇。这不仅是一次知识的学习，更是一场思维的远行。来，随我一起，开启这趟非凡的旅程吧。
深入GPU硬件架构及运行机制
xingsongyu的博客
01-20 3719
原文：https://www.cnblogs.com/timlly/p/11471507.html 目录 一、导言 1.1 为何要了解GPU？ 1.2 内容要点 1.3 带着问题阅读 二、GPU概述 2.1 GPU是什么？ 2.2 GPU历史 2.2.1 NV GPU发展史 2.2.2 NV GPU架构发展史 2.3 GPU的功能 三、GPU物...
七周七并发模型
diaoju3333的博客
03-06 207
第1章 概述1.1 并发？还是并行？1.2 并行架构1.3 并发：不只是多核1.4 七个模型第2章 线程与锁2.1 简单粗暴2.2 第一天 互斥和内存模型2.3 第二天 超越内置锁2.4 第三天 站在巨人的肩膀上2.5 复习第3章 函数式编程3.1 若不爽，就另辟蹊径3.2 第一天 抛弃可变状态3.3 第二天 函数式并行3.4 第三天 函数式并发3.5 复习第4章 Clojure之道——...
Linux DRM Developer's Guide
maze的专栏
03-28 8502
1.简介 2. DRM内部 驱动程序初始化 驱动信息 驱动加载 内存管理 转换表管理器（TTM） 图形执行管理器（GEM） 模式设定 帧缓冲区创建 输出轮询 锁定 KMS初始化和清理 CRTC（struct drm_crtc） Plane（structdrm_plane） Enc
CUDA从入门到精通
baiyiqingxiang159的专栏
09-27 579
CUDA从入门到精通 分类： CUDA2013-10-17 11:22 3353人阅读 评论(7) 收藏 举报 CUDA从入门到精通（零）：写在前面 在老板的要求下，本博主从2012年上高性能计算课程开始接触CUDA编程，随后将该技术应用到了实际项目中，使处理程序加速超过1K，可见基于图形显示器的并行计算对于追求速度的应用来说无疑是一个理想的选择。还有不到一年毕业，怕
精选资源
通用图形处理器设计GPGPU编程模型与架构原理.pptx
10-15
《通用图形处理器设计GPGPU编程模型与架构原理》是一本非常全面和深入的著作，详细介绍了GPGPU的编程模型和架构原理以及在各行业中的应用。这本书不仅适合于从事GPGPU相关工作的专业人士和技术人员阅读，也适合于对...
0088-极智AI-解读壁仞推出国产最强GPGPU BR100-个人笔记
07-21
0088_极智AI_解读壁仞推出国产最强GPGPU BR100-个人笔记
GPGPU资料包含CUDA
08-04
图形处理器（GPU）最初是为图形和视频处理设计的，但随着技术的发展，它们越来越多地用于通用计算任务。这个转变得益于GPU的并行计算能力，它允许同时执行大量计算，这对于科学计算、大数据分析、机器学习等领域具有...
通用图形处理器设计——GPGPU编程模型与架构原理（二）
AHAHAya_的博客
07-25 1460
可以提供线程块内部已有__syncthreads()类似的同步操作，还可以提供更为丰富多样的线程组合及其内部的通信和同步操作，如单个GPGPU上的线程网格或多个GPGPU之间的线程网格。（2）本线程索引减去i,并返回该索引的寄存器v的数据表决操作：g.all(p1):如果组内所有线程的谓词寄存器p1都为1，则返回1，否则为0；线程块是线程的集合。（3）__threadfence()_system():与__threadfence()类似，作用范围是系统内部的所有线程，包括主机端的线程以及其他设备的线程。
大厂算力调研：CPU/GPU算力使用及迁移情况
leafff123的博客
12-03 510
在明年预计支持三四十万亿token需求时，总体需要约二十六七万张卡，其中50%-60%为训练卡，40%-50%为推理卡，包括L20和580系列。在未来，为优化成本及提升效率，将逐步将部分CPU任务迁移至GPU，但整体增加量预计仅为10%-20%，不会出现大规模扩容。而豆包平台作为一个AI对话系统，其日均query量达到4.2亿次，对应DAU约6,000多万，每天消耗5.5万亿至6万亿token，因此需要更多硬件资源支持。此外，由于原有系统表现良好，通过新技术优化后的提升空间有限，因此切换速度较慢。
蓝耘元生代GPU算力调度云平台深度解析：高性价比算力云与GPU算力租赁首选方案
qq_39811991的博客
12-02 619
在AI大模型训练、大数据处理、工业仿真等场景的算力需求爆发式增长背景下，算力云已成为连接算力供给与需求的核心桥梁，而GPU算力租赁则凭借灵活、低成本的优势，成为科研机构、企业及开发者的主流选择。平台核心亮点在于“高性能+高性价比+全功能闭环”，不仅搭载RTX 3090、RTX 4090等主流高性能GPU，支持最高12.2版本CUDA，配备Intel Xeon系列高性能CPU与充足内存/存储资源，更通过灵活的计费模式、完善的功能工具链与稳定的运行保障，成为GPU算力租赁领域的高性价比之选。
GPU算力租赁与算力云平台选型指南：从需求匹配到成本优化的实战思路
qq_39811991的博客
12-02 919
以蓝耘元生代GPU算力调度云平台为例，其提供的RTX 3090/4090实例（搭配10-12核CPU、30-64GB内存）、按量/包年包月互转、无卡模式（0.1元/小时）、20GB免费存储等特性，正是基于上述选型维度的实践落地，可适配科研、企业、个人开发者的主流需求。：某计算机视觉团队需训练YOLOv8模型（数据集50GB），选择配备RTX 3090（24GB）、10核CPU、30GB内存的实例，GPU利用率稳定在85%以上，较搭配8核CPU的实例训练效率提升30%。
CentOS7 + 芯片验证工具环境部署全笔记：从虚拟机到 VCS/Verdi 实战
m0_46663240的博客
12-03 787
本文提供从CentOS7虚拟机搭建到芯片验证工具部署的完整指南。首先介绍VMware虚拟机安装CentOS7的详细步骤，包括磁盘分区、用户设置等关键配置。随后讲解网络连接设置、VNC远程服务部署及防火墙配置，实现可视化远程操作。最后涵盖vim编辑器和Shell环境的个性化优化，为后续芯片验证工具安装做好准备。文中包含各环节的常见问题解决方案和实用配置代码，适合芯片验证初学者和Linux运维人员参考使用。
TensorRT笔记（5）：研究timingCache
ouliten的博客
12-02 1088
在里出现了大量的timingCache，但是当时没有取研究这是干啥的，本文就来解析一下。样例都基于上面的文章。
2025-11-27-LeetCode刷题笔记-3381-长度可被K整除的子数组的最大元素和
最新发布
tkhhhhh的博客
12-04 378
摘要： LeetCode 3381题要求找出长度能被k整除的子数组的最大和。解题关键在于结合前缀和与模运算技巧：通过计算前缀和数组，按位置模k分类，维护每类余数的最小前缀和。这样可以在O(n)时间内计算每个位置结尾的子数组最大和，只需一次遍历即可得到结果。算法空间复杂度为O(k)。提供了Python、Go和C++的实现代码，并讨论了负数处理等边界情况。核心思路是利用同余性质优化计算，避免暴力枚举。
设计一个超异构融合芯片架构，包含CPU/GPGPU/NPU
01-30
### 设计超异构融合芯片架构 #### 1. 架构概述 超异构融合芯片旨在通过集成CPU、GPGPU和NPU来实现高效的任务分配与协同工作。这种设计不仅能够提升整体性能，还能优化功耗管理并提高资源利用率。 #### 2. 组件特性分析 - **CPU (中央处理器)** CPU擅长处理复杂的控制流指令序列以及多任务调度，适合执行顺序性强的应用程序逻辑[^1]。由于其灵活性高，可以承担起整个系统的管理和协调职责。 - **GPGPU (通用图形处理单元)** GPGPU拥有大量简单的计算核心，非常适合并行化的浮点运算密集型任务，尤其是在图像渲染之外的大规模数据处理方面表现出色[^3]。它还具备良好的可编程性和广泛的软件支持生态。 - **NPU (神经网络处理单元)** NPU专门为加速机器学习算法而生，特别是针对卷积神经网络(CNNs)和其他类型的深层结构进行了高度定制化的设计。相比其他两种组件而言，NPU能够在更低能耗下完成特定类型的工作负载。 #### 3. 关键技术要点 - **统一内存访问机制** 实现不同硬件模块之间的无缝协作至关重要的一环就是建立高效的共享存储体系。这样不仅可以减少不必要的数据传输延迟，而且有助于简化应用程序开发流程。 - **动态负载均衡策略** 需要引入智能化的任务分发方案，使得各类作业可以根据实际需求被合理地指派给最适合它们运行的目标设备。例如，对于那些涉及复杂决策路径的操作优先考虑由CPU接管；而对于矩阵乘法之类的操作则交予GPGPU负责；至于深度学习相关的推断活动自然应该交给专门为此打造的NPUs去完成。 - **混合精度计算能力** 支持多种数值表示形式（如FP32, FP16甚至INT8），以便根据不同应用场景灵活调整计算精度，在保证准确性的同时尽可能降低能量消耗。 ```python class FusionChip: def __init__(self): self.cpu = Cpu() self.gpu = Gpgpu() self.npu = Npu() def execute_task(self, task_type, data): if task_type == 'control_flow': return self.cpu.run(data) elif task_type == 'parallel_computation': return self.gpu.compute(data) elif task_type == 'neural_network_inference': return self.npu.infer(data) fusion_chip = FusionChip() result_control = fusion_chip.execute_task('control_flow', control_data) result_parallel = fusion_chip.execute_task('parallel_computation', parallel_data) result_nn = fusion_chip.execute_task('neural_network_inference', nn_data) ```
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值