码农王小呆的博客

第1章 并行计算概述1.1 并行计算简介对于计算机而言，“并行”就是同一时间间隔内，增加操作量，多个运算部件共同完成一个任务。并行计算（parallel computing）就是由运行在多个部件上的小任务合作来求解一个大规模计算问题的一种方法。 在科学计算领域，待求解问题的规模也越来越大，采用并行计算可以降低单个问题求解的时间，增加问题求解规模，提高问题求解精度，改善多机同时执行多个串行程序的容错

第2章 GPU概述2.1 显卡、GPU和CUDA在进入CUDA编程学习之前，我们需要先搞清楚几个概念：显卡、GPU和CUDA分别是什么。2.1.1 显卡显卡（Video card，Graphics card）全称显示接口卡，又称显示适配器。显卡接在电脑主板上，它将电脑的数字信号转换成模拟信号让显示器显示出来。显卡分为独立显卡和集成显卡两种。2.1.2 GPUGPU（Graphic Processin

第3章 CUDA编程基础3.3 CUDA编程模型CUDA架构第一次引入了主机(host)端与设备(device)端的概念。如下图所示，一个完整的CUDA程序由主机代码和设备代码两部分组成。主机代码在主机端CPU上串行执行，是普通的C代码；设备代码部分在设备端GPU上并行执行，称为内核(kernel)。kernel函数不是一个完整的程序，而是任务中能被分解为并行执行的步骤的集合。CPU执行的串行程序负

第3章 CUDA编程基础3.1 CUDA并行新思维CUDA并行编程新思维的出现，不仅成功地利用了新一代GPU的硬件架构优势，同时克服了GPGPU(general purpose computing GPU)编程的缺点，为程序员定义了一个最小的C语言扩展包，这使得熟悉标准编程语言(如 C、FORTRAN 等语言)的程序员可以轻松掌握CUDA编程方法。名为CUDA C的C语言拓展包包含3个主要的抽象概念

第3章 CUDA编程基础3.5 “HelloWorld”CUDA 编程实例安装完Visual Studio 2013软件并配置好CUDA开发环境。本节我们正式CUDA编程。首先我们打开vs2013，点击新建工程，选中CUDA 7.5的模板。输入工程名等信息，完成工程的创建。 创建完工程后，会默认有一个kernel.cu的文件，其实现的是矩阵相加，这时候可以直接调试运行，如果没有报错则证明可以进行C