【笔记】CUDA加速

概念

 

CUDA —— 由NVIDIA推出的通用并行计算架构  

           —— 该架构使GPU能够解决复杂的计算问题

           —— 包含了CUDA指令集架构（ISA）以及GPU内部的并行计算引擎

           —— 开发人员现在可以使用C语言来为CUDA架构编写程序，将来还会支持其它语言，包括FORTRAN以及C++

           —— CUDA解码技术直接调用GPU中的流处理器进行解码运算，而之前一直是调用GPU中相应的专用视频解码模块

 

NVIDIA显卡驱动版本，CUDA版本，cudnn版本之间关系及如何选择

https://blog.youkuaiyun.com/iamqianrenzhan/article/details/89343601

 

为什么要用CUDA？

       在科学计算领域所要用到的计算往往不是我们熟知的普通矩阵，而是千维甚至万维的矩阵，而普通的CPU串行计算往往不能满足与科学计算所要求的性能。最好的例子就是深度学习，可以说深度学习起源于感知机但正真发展在于计算能力的提高，也就是显卡计算的兴起。深度学习的计算都是基于矩阵的计算，而普通一个识别手写数字的神经网络都有上千个隐含节点，故CUDA性能优化是一门重要的技术。

 

为什么显卡可以加速？

       首先，显卡可以加速最大的原因是其含有上千个CUD