转载链接:https://www.zhihu.com/question/19903344/answer/96081382
CPU和GPU之所以大不相同,是由于其设计目标的不同,它们分别针对了两种不同的应用场景。CPU需要很强的通用性来处理各种不同的数据类型,同时又要逻辑判断又会引入大量的分支跳转和中断的处理。这些都使得CPU的内部结构异常复杂。而GPU面对的则是类型高度统一的、相互无依赖的大规模数据和不需要被打断的纯净的计算环境。
于是CPU和GPU就呈现出非常不同的架构(示意图):
<img src="https://i-blog.csdnimg.cn/blog_migrate/273f2adc79858b3614f715f484af49c7.jpeg" data-rawwidth="353" data-rawheight="136" class="content_image" width="353">
图片来自nVidia CUDA文档。其中绿色的是计算单元,橙红色的是存储单元,橙黄色的是控制单元。
GPU采用了数量众多的计算单元和超长的流水线,但只有非常简单的控制逻辑并省去了Cache。而CPU不仅被Cache占据了大量空间,而且还有有复杂的控制逻辑和诸多优化电路,相比之下计算能力只是CPU很小的一部分
<img src="https://i-blog.csdnimg.cn/blog_migrate/1b177d8643657222e7a37480c7ba1d12.png" data-rawwidth="1017" data-rawheight="487" class="origin_image zh-lightbox-thumb" width="1017" data-original="https://pic2.zhimg.com/894e6d2f20921e7c8be985bbb0dac5d5_r.png">
从上图可以看出:
Cache, local memory: CPU > GPU
Threads(线程数): GPU > CPU
Registers: GPU > CPU 多寄存器可以支持非常多的Thread,thread需要用到register,thread数目大,register也必须得跟着很大才行。
SIMD Unit(单指令多数据流,以同步方式,在同一时间内执行同一条指令): GPU > CPU。
CPU 基于低延时的设计:
<img src="https://i-blog.csdnimg.cn/blog_migrate/d4b983998310c82c4bc5cef28428ea1f.png" data-rawwidth="1190" data-rawheight="499" class="origin_image zh-lightbox-thumb" width="1190" data-original="https://pic3.zhimg.com/7e4a25ee38ec4e194d3424edb000d526_r.png">
CPU有强大的ALU(算术运算单元),它可以在很少的时钟周期内完成算术计算。
当今的CPU可以达到64bit 双精度。执行双精度浮点源算的加法和乘法只需要1~3个时钟周期。
CPU的时钟周期的频率是非常高的,达到1.532~3gigahertz(千兆HZ, 10的9次方).
大的缓存也可以降低延时。保存很多的数据放在缓存里面,当需要访问的这些数据,只要在之前访问过的,如今直接在缓存里面取即可。
复杂的逻辑控制单元。当程序含有多个分支的时候,它通过提供分支预测的能力来降低延时。
数据转发。 当一些指令依赖前面的指令结果时,数据转发的逻辑控制单元决定这些指令在pipeline中的位置并且尽可能快的转发一个指令的结果给后续的指令。这些动作需要很多的对比电路单元和转发电路单元。