轻量应用服务器写cuda,基于WEB的GPU服务平台的实现

摘要：

GPU(Graphic Processing Unit)通用计算技术是近年来出现的一种新的、很有发展潜力的并行计算技术。利用GPU通用计算技术可以完成大规模的并行计算任务。它利用GPU特殊的底层硬件架构和软件平台,可以成千上百倍提高现有并行计算算法的效率。因此它在通用计算领域和市场中占有越来越多的比重。由于GPU通用计算技术在软件和硬件方面持续进步,特别是NVIDIA(英伟达)推出CUDA(Compute Unified Device Architecture)计算平台之后,越来越多的高性能计算系统和数据中心都引入了GPU。另一方面web技术也得到了长足的发展,特别在推出web service的概念之后,位于不同机器的不同应用无须通过任何第三方就可以交换数据。但是,目前对于如何通过Web Service向其他应用程序提供GPU的计算能力的这个问题尚无标准的解决方案。本文利用Web Service技术、GPU远程访问技术(RCUDA)以及持续集成技术(continuous integration)对通过webservice向其他应用程序提供GPU的计算能力的方法和接口进行了研究。我们设计了一个可以持续构建GPU应用程序的平台,优化了webservice调度GPU应用程序的队列模型。主要进行研究工作有以下几个方面: 1、搭建rCUDA的环境,采用linux的自动化编译工具链编写能自动化编译和执行CUDA应用程序的脚本。实现可以在没有GPU的调度节点机器上进行远程自动化编译CUDA应用程序和执行CUDA程序,并比较在本地执行和远程执行的效率。 2、实现对自动化脚本的WEB封装,采用maven技术来重新定义CUDA应用的工程结构。通过maven的pom.xml文件封装自动化脚本。并将其和具有maven工程结构的GPU应用程序导入到集成服务器中,使用户可以通过定制的集成服务器来自动化编译和在线执行CUDA应用程序。 3、实现自动化编译和构建CUDA应用程序的多线程调度队列模型,使用户可以通过WEB的方式并发的调度自动化编译任务。并同时实现在线执行CUDA应用程序的多线程调度队列模型,使用户可以通过web的方式在不同的GPU上执行CUDA应用程序并获得结果。 4、实现了通过xml-rpc提供的Web Service去访问GPU应用程序的接口。这部分就是将前面的功能通过xml-rpc技术封装,供用户在他们自己的应用程序中使用GPU应用程序。

展开