OpenCL在移动端GPU计算中的应用与实践

  一、引言

移动端芯片性能的不断提升为在手机上进行计算密集型任务，如计算机图形学和深度学习模型推理，提供了可能。在Android设备上，GPU，尤其是高通Adreno和华为Mali，因其卓越的浮点运算能力，成为了异构计算中的重要组成部分。百度APP已经利用GPU计算加速深度模型推理和计算密集型业务。本文将介绍OpenCL的基础概念和简单编程。

二、基础概念

2.1 异构计算

异构计算指的是使用不同类型指令集和体系架构的计算单元组成系统的计算方式。常见的计算单元包括CPU、GPU等协处理器、DSP、ASIC、FPGA等。

2.2 GPU

GPU（图形处理器）是一种专门在个人电脑、工作站、游戏机和一些移动设备上执行绘图运算工作的微处理器。相比于CPU，GPU具有更多的核心数和并行计算能力，其性能-芯片面积比和性能-功耗比都更高。

三、OpenCL

OpenCL是由Khronos Group掌管的异构平台编程框架，支持CPU、GPU、DSP、FPGA等多种处理器和硬件加速器。OpenCL包含一种基于C99标准的内核编程语言和定义并控制平台的API。

3.1 OpenCL编程模型

OpenCL编程涉及平台模型、执行模型和内存模型。

平台模型描述系统中各计算资源之间的拓扑关系。在Android设备中，Host通常是CPU，而Compute Device则是GPU。

执行模型允许通过clEnqueueNDRangeKernel命令启动预编译的OpenCL内核，支持多维数据并行处理。例如，可以并行处理图像的每个像素。

内存模型涉及OpenCL的内存结构，包括全局内存、本地内存和私有内存等。

3.2 OpenCL编程

OpenCL编程通常需要工程化封装。以下是一个简单的数组相加示例：

• 初始化OpenCL环境，如设备、上下文、命令队列。
• 初始化程序和内核。
• 准备输入输出数据，并将其设置到内核。
• 执行内核并获取结果。