(部分内容转自网络)
一 硬件层次划分
GPU硬件架构:
一个GPU上包含多个SM(STREAMING MULTIPROCESSOR),一个SM包含8个SP(STREAMING PROCESSOR)
sp: 最基本的处理单元,streaming processor 最后具体的指令和任务都是在sp上处理的。
GPU进行并行计算,也就是很多个sp同时做处理
sm:多个sp加上其他的一些资源组成一个sm, streaming multiprocessor. 其他资源也就是存储资源,共享内
存,寄储器等。每个SM大致相当于一个8路SIMD处理器,单指令宽度不是8,是32.(即等于warp size)
???
GPU架构如下:


二 CUDA架构:
CUDA架构是程序执行时候,对GPU计算资源进行的逻辑划分。
在利用cuda进行编程时,一个grid分为多个block,而一个block分为多个thread.一个kernel函数映射到一个grid上执行。
1、线程结构:CUDA将计算任务映射为大量的可以并行执行的线程,并且硬件动态调度和执行这些线程。 Kernel以线程网格(Grid)的形式组

本文介绍了GPU的硬件层次,包括SM和SP的概念,以及CUDA和OPENCL的编程模型。CUDA中,计算任务以grid、block和thread的形式组织,线程束(warp)是调度单位。OPENCL类似,工作群组(workgroup)划分为多个线程。理解这些架构有助于优化GPU计算效率。
最低0.47元/天 解锁文章
2752

被折叠的 条评论
为什么被折叠?



